Q:
Waarom overwegen sommige bedrijven "menselijke feedbackcontroles" toe te voegen aan moderne AI-systemen?
EEN:Sommige bedrijven die met geavanceerde AI-technologie werken, werken aan het instellen van menselijke controles voor deze systemen, waardoor machine learning en deep learning-tools direct menselijk toezicht krijgen. Deze bedrijven zijn ook geen kleine spelers - Google's DeepMind en Elon Musk's OpenAI zijn twee voorbeelden van grote bedrijven die praktische kennis opdoen over kunstmatige intelligentie. Met dat in gedachten verschillen de resultaten - bijvoorbeeld, DeepMind is het onderwerp van controverse geweest vanwege zijn vermeende onwil om belangrijke gegevens aan het publiek te verstrekken, terwijl OpenAI veel meer, nou ja, open is over zijn werk aan het beheersen van kunstmatige intelligentie.
Zelfs notabelen als Bill Gates hebben gewogen over de kwestie, Gates zegt dat hij een van de velen is die zich zorgen maken over de opkomst van een kunstmatige superintelligentie die op sommige manieren de menselijke controle te boven kan gaan. Musk van zijn kant heeft ook een alarmerende taal naar voren gebracht over de mogelijkheid van 'schurkenstaten'.
Dat is waarschijnlijk de meest dringende reden dat bedrijven werken aan het toepassen van menselijke controles op AI - het idee dat enige technologische singulariteit zal resulteren in een superkrachtige gevoelige technologie die mensen gewoon niet meer kunnen controleren. Sinds het begin van menselijke ambities, hebben we tools ingesteld om ervoor te zorgen dat we de krachten die we uitoefenen kunnen beheersen - of het nu paarden met teugels en tuigen zijn, elektriciteit in geïsoleerde draden of een ander soort bedieningsmechanisme, met controle is een aangeboren menselijke functie en daarom is het volkomen logisch dat, naarmate kunstmatige intelligentie dichter bij echte functionaliteit komt, mensen hun eigen directe controles toepassen om die macht in toom te houden.
Angst voor superintelligente robots is echter niet de enige reden dat bedrijven menselijke controles toepassen op machine learning en AI-projecten. Een andere belangrijke reden is machinebias - dit is het idee dat kunstmatige intelligentiesystemen vaak beperkt zijn in de manier waarop ze de betreffende gegevens evalueren - zodat ze elke bias die inherent is aan het systeem versterken. De meeste professionals die zich bezighouden met machine learning, kunnen horrorverhalen vertellen over IT-systemen die menselijke gebruikersgroepen niet gelijk konden behandelen - of het nu ging om geslacht of etnische ongelijkheid, of een ander falen van het systeem om de nuances van onze menselijke samenlevingen echt te begrijpen en hoe we omgaan met mensen.
In zekere zin zouden we menselijke controles op systemen kunnen zetten omdat we bang zijn dat ze misschien te krachtig zijn - of anders, omdat we bang zijn dat ze misschien niet krachtig genoeg zijn. Menselijke bedieningselementen helpen bij het targeten van datasets van machine learning voor meer precisie. Ze helpen ideeën te versterken die de computer gewoon niet alleen kan leren, hetzij omdat het model niet verfijnd genoeg is, omdat AI niet ver genoeg is gevorderd, of omdat sommige dingen gewoon in de provincie van menselijke cognitie liggen. Kunstmatige intelligentie is geweldig voor sommige dingen - bijvoorbeeld, een belonings- en score-gebaseerd systeem liet een kunstmatige intelligentie toe om een menselijke speler te verslaan bij het immens complexe bordspel "Go" - maar voor andere dingen is dit op stimulans gebaseerde systeem volstrekt onvoldoende.
Kortom, er zijn tal van dwingende redenen om menselijke gebruikers direct betrokken te houden bij hoe kunstmatige intelligentieprojecten werken. Zelfs de beste kunstmatige intelligentie-technologieën kunnen veel zelf nadenken - maar zonder een echt biologisch menselijk brein dat dingen zoals emoties en sociale mores kan verwerken, kunnen ze het grote geheel niet op een menselijke manier zien.
Een bekwaam bedrijf voor machinaal leren kan dit evenwicht helpen vinden met een mix van experts uit het bedrijfsleven en het onderwerp en de ontwikkelaars van machinaal leren met de vaardigheden om grote zakelijke problemen op te lossen.
