Q:
Waarom maken sommige mensen zich zorgen over kunstmatige intelligentie?
EEN:Verandering is niet eenvoudig en veel mensen hebben er moeite mee zich eraan aan te passen. Dit geldt met name voor technologische veranderingen. De bekende professor Calestous Juma van Harvard schreef een boek over het onderwerp 'Innovatie en zijn vijanden: waarom mensen zich tegen nieuwe technologieën verzetten'. Het boek schetst de spanning tussen innovatie en de sociale orde, gebaseerd op 600 jaar geschiedenis. De impact van technologie is vooral lastig als het gaat om kunstmatige intelligentie.
Niet iedereen is tegen deze vorderingen. Ray Kurzweil, auteur van 'The Singularity is Near' en 'The Age of Spiritual Machines', is niets minder dan een evangelist die de voordelen van genetica, nanotechnologie en robotica promoot (een term die wordt gebruikt voor niet-biologische intelligentie). Maar dit zijn dezelfde kwesties - en Kurzweil dezelfde persoon - die in het jaar 2000 grote bezorgdheid veroorzaakten voor Bill Joy, Chief Scientist bij Sun Microsystems.
Joy schreef over zijn zorgen in een inmiddels beroemd artikel in het tijdschrift Wired getiteld "Why The Future Doesn't Need Us." Hij geloofde dat de toekomst van de mensheid op het spel stond. Verwijzend naar de concurrentie van de evolutionaire geschiedenis, schreef Joy: "Biologische soorten overleven bijna nooit ontmoetingen met superieure concurrenten." Wetenschappelijke doorbraken die resulteren in machines die mensen overtreffen, brengen aanzienlijke risico's met zich mee. Denk aan visioenen van een dystopische toekomst.
Stel dat wetenschappers machines kunnen ontwikkelen met kunstmatige superintelligence (ASI), een intelligentieniveau dat hoger is dan dat van mensen. Joy zegt dat een van de volgende twee dingen kan gebeuren: de machines mogen hun eigen beslissingen nemen, of mensen zullen de controle over hen houden. Wat gebeurt er als u de stroom overhandigt aan de machines? Wat kunnen de resultaten zijn?
Bill Joy is niet de enige die zich zorgen maakt. Tech-goeroe Elon Musk zei: "Met kunstmatige intelligentie roepen we de demon op." Hij noemde het "onze grootste existentiële bedreiging". Fysicus Stephen Hawking vertelde de aanwezigen op een technologieconferentie dat "we niet kunnen weten of we oneindig worden geholpen door AI, of er door genegeerd en zijdelings omlijnd, of denkbaar erdoor vernietigd. "En hij vertelde Wired magazine:" Ik vrees dat AI mensen helemaal kan vervangen. "
Zijn deze angsten gerechtvaardigd? Scifi-films zoals 'Transcendence', waarbij het karakter van Johnny Depp banden met kunstmatige intelligentie en verwoesting aanrichten, doen denken aan de voorspellingen van Kurzweil over hoe mensen met machines kunnen communiceren. De verbeeldingskracht loopt los over alle manieren waarop kunstmatige intelligentie mis kan gaan. Wat gebeurt er wanneer de machines de controle overnemen?
Twee voorbeelden uit de praktijk illustreren hoe zorgen over kunstmatige intelligentie begrijpelijk kunnen zijn. In 2007 doodde een robotkanon negen mensen en verwondde 14. Sommige geavanceerde militaire wapens kiezen automatisch hun doelen, maar wachten tot een mens de trekker overhaalt. Wie nam hier de beslissingen? In 2016 sloeg een beveiligingsrobot van 300 pond om en rende een zestien maanden oude peuter overreden. Wie had in dit geval de controle: mens of machine?
De reden dat sommige mensen zich zorgen maken over kunstmatige intelligentie is dat de risico's reëel zijn. De volgende vraag: Hoe gaan we die risico's beheren?
