Q:
Kan AI je seksuele of politieke oriëntatie detecteren door alleen naar je foto's te kijken via gezichtsherkenning?
EEN:Kortom: ja, dat kunnen ze, en ze zijn er zelfs beter in dan mensen. Volgens een zeer verontrustende studie van Stanford University bevatten afbeeldingen van menselijke gezichten een schat aan informatie die het menselijk brein gewoon niet kan verwerken, terwijl kunstmatige intelligentie dat wel kan. Volgens hun onderzoek kon een diep neuraal netwerk onderscheid maken tussen homo- en heteroseksuele mannen in 81 procent van de gevallen, en in 74 procent van de gevallen voor vrouwen, vergeleken met slechts 61 procent voor mannen en 54 procent voor vrouwen voor menselijke rechters. Als het algoritme ten minste vijf afbeeldingen van een persoon had om te scannen, steeg het percentage succes tot respectievelijk 91 procent en 83 procent.
Niet alleen was AI in staat om een aantal "gender-atypische" kenmerken zoals verzorgingsstijl en mode-keuzes te onderscheiden, de machine identificeerde ook enkele specifieke fenotypische kenmerken in hun gelaatstrekken, zoals homoseksuele mannen met smallere kaken, grotere voorhoofden en langere neuzen. Ongeacht de mogelijke implicaties van deze ontdekking (zoals het idee dat genderoriëntatie mogelijk verband houdt met sommige genetische kenmerken), is het vrij beangstigend hoe schadelijk de toepassingen van deze technologie kunnen zijn. Het zou bijvoorbeeld kunnen worden gebruikt door die regeringen die LGBT-mensen vervolgen om hen te "screenen", of gewoon om de privacy van talloze gebruikers te schenden voor allerlei kwaadaardige doeleinden - gerichte marketing is het minst kwaad van allemaal.
Wat het echter nog meer ongemakkelijk maakt, is dat vergelijkbare technologieën al beschikbaar zijn en al worden gebruikt. AI kan veel meer dan alleen seksualiteit detecteren door te kijken naar een foto van een menselijk gezicht: het kan emoties, IQ en zelfs politieke voorkeuren detecteren. Soortgelijke AI-aangedreven psychometrische profileringstechnologieën zijn gebruikt om gegevens uit Facebook-profielen te trekken en conclusies te trekken over persoonlijke voorkeuren en levensstijlkeuzes. Op deze manier zouden kiezers alleen een specifieke subset van gerichte politieke advertenties zien die hun politieke keuzes subtiel kunnen sturen.
De maker van dit experiment, de psycholoog Michal Kosinski, uitte zijn bezorgdheid over de mogelijke risico's als deze technologie voor kwade doeleinden werd gebruikt, tot het punt dat hij en zijn team veel tijd besteedden aan het overwegen of de resultaten überhaupt openbaar zouden moeten worden gemaakt. Het politieke adviesbureau Cambridge Analytica zou in feite informatie die is verzameld via sociale netwerken gebruiken om advertenties weer te geven die de Amerikaanse presidentsverkiezingen in 2016 hebben beïnvloed, en mogelijk zelfs de Britse Brexit-campagne. Volgens het lopende onderzoek begon een enorm leger bots een aantal nauwkeurig gericht nepnieuws over Hillary Clinton te verspreiden om haar potentiële kiezers te laten stemmen op Donald Trump. Veel van deze advertenties werden ter plekke gebouwd door de intelligente algoritmen, om aan mensen te tonen tijdens grote evenementen of verkiezingsdebatten. De AI heeft ook de reacties van mensen gemeten om hun efficiëntie bij het beïnvloeden van Clinton's kiezers te vergroten door te geloven dat ze een slechte en gestoorde persoon was.
Na het schandaal was het bureau gesloten, maar vergelijkbare technologieën bestaan nog steeds en kunnen nog steeds met kwaadaardige doeleinden worden gebruikt. Kosinski gaf vele toespraken waarschuwen voor dit risico lang voor het schandaal, maar helaas kan de menselijke natuur niet worden gewijzigd. In een niet-gepubliceerd experiment beweerde hij dat zijn AI in staat was onderscheid te maken tussen de gezichten van Republikeinen en Democraten, hoewel hij toegaf dat baarden een verschil konden maken. Dus voor alle complottheoretici (en privacybewuste mensen) die er zijn, hier is een grote hint - als je wilt voorkomen dat de overheid je privéleven binnendringt, laat je gewoon een baard groeien. Enorme, indien mogelijk.
