Q:
Waarom zeggen sommige experts dat AI "digitale authenticiteit zal vernietigen"?
EEN:Machine learning en kunstmatige intelligentie veranderen veel industrieën snel en veranderen de manier waarop we over technologische vooruitgang denken echt. Maar ze zijn ook bezig met een aantal interessante dichotomieën en tegenstrijdigheden over hoe we ons verhouden tot onze computers en smartphones of andere nieuwe interfaces die toevallig langs komen.
Een van de grote vragen met kunstmatige intelligentie is hoe het "authenticiteit" zal beïnvloeden - of hoe mensen de realiteit die bestaat, in de "vleesruimte" of in de digitale wereld, verifiëren en bevestigen. Als je echt ingaat op hoe dit werkt, zie je een inherente tegenstelling tussen de beperkingen van onze technologie en de manieren waarop we vertrouwen op de technologie waarover we beschikken.
Een van de beste voorbeelden is te vinden in een recent artikel in Wired dat laat zien hoe mensen met kunstmatige intelligentie en hulpmiddelen voor machinaal leren in staat zijn om een afbeelding van een bewegend paard te maken en zebrastrepen te superponeren in een proces dat de auteur "zebraficatie" noemt.
Het is netjes en nieuw, maar het kan ook een probleem vormen. Wanneer je een zebra op een digitaal scherm ziet, hoe weet je dan dat het een zebra is, en niet alleen een paard met zebrastrepen dat er slim op is gezet door een technisch onderlegde persoon?
Het lijkt misschien een theoretische vraag, maar dezelfde soort vragen zullen binnenkort van toepassing zijn op het nieuws dat we in digitale vorm krijgen - van politiek tot economie tot religie, alles gaat vertrouwen op ons vermogen om informatie te doorzoeken, om feit en fictie te controleren en te onderscheiden, tussen mythe en realiteit. Aangezien nieuwe hulpmiddelen voor kunstmatige intelligentie meer manieren bieden om beeld en video te manipuleren, wordt dit veel moeilijker.
Een ander uitstekend voorbeeld zijn nieuwe spraaktechnologieën. In een artikel enkele jaren geleden hebben we een ontluikend IT-project besproken dat de stemmen van beroemde mensen heeft overgenomen en motoren voor spraakmodellen heeft gebouwd die deze beroemde mensen alles van buiten het graf kunnen laten zeggen.
Nogmaals, dit is nette en interessante technologie - het lijkt een leuke manier om spraakverwerkingstechnologieën te gebruiken. Maar het zal echt een probleem vormen wanneer we de sprong maken van oude analoge en ondoctorale digitale spraaktechnologie naar nieuwe synthetische en geprefabriceerde stem. Hoe weet je wie tegen je praat - aan de telefoon, op tv of recht in je oor?
Meer in het bijzonder kan het idee om audio, beeld en video op geavanceerde manieren te veranderen, enkele van onze meest gewaardeerde ideeën als samenleving ten goede komen. Hoe zullen mensen vertrouwen op wat ze horen en zien in de politieke wereld? Hoe zit het met de wet - zullen degenen die van misdaden worden beschuldigd nieuwe soorten beroep aantekenen op basis van de mogelijke wijziging van bewijsmateriaal?
Een andere manier om enkele van deze problemen te begrijpen, is door te kijken naar sciencefiction-schrijven - van Ray Bradbury's "Fahrenheit 451" tot George Orwell's "1984" en verder, de verhalenvertellers van voorbije eeuwen hebben ons herhaaldelijk gewaarschuwd dat technologie nuttig kan zijn voor beide en problematische doeleinden. Een reden waarom zoveel experts en hoofden van IT-bedrijven om “verklaarbare kunstmatige intelligentie” en ethische panels vragen, is dat ze het probleem begrijpen - dat als we technologieën niet grondig beheersen, we ze aan niemand kunnen vertrouwen omvang. In plaats van ons te helpen onze doelen te bereiken, kunnen ze ons uiteindelijk pijn doen, deels door het veroorzaken van de sociale chaos die bestaat wanneer we niet echt grip op waarheid en realiteit kunnen krijgen. Een deel van het goede nieuws is echter dat technologieën zoals blockchain, die transactionele authenticatie bieden, kunnen helpen wanneer toegepast op digitale records.
