Q:
Hoe roept de "Sophia" -robot van Saudi-Arabië angstaanjagende nieuwe cybersecurity-vragen op?
EEN:Een van de populairste nieuwe technologieën voor kunstmatige intelligentie is een levensgrote robot die eruit ziet en zich als een vrouw gedraagt.
Haar naam is Sophia en ze wordt geproduceerd door Hanson Robotics, een in Hong Kong gevestigd bedrijf. Waarom is zij de robot van Saudi-Arabië? Omdat deze Golfstaat Sophia een belangrijk mensenrecht heeft gegeven: het recht op burgerschap.
Dit haalt veel krantenkoppen en brengt allerlei debatten op gang over hoe snel kunstmatige intelligentie gaat en waarom we om ons moeten geven. Een van de grote problemen is cybersecurity - hoe zal het cybersecurityveld zich aanpassen aan dit soort nieuwe technologieën?
Sophia en vergelijkbare technologieën veroorzaken belangrijke cyberveiligheidsproblemen die we nog niet eerder hebben aangepakt. Hier zijn enkele dingen waar professionals en experts aan moeten denken als ze robots inluiden die op ons lijken, spreken en zich gedragen.
Over het algemeen is de nieuwe, levensechte robotinterface geavanceerder dan wat we in het verleden gewend waren, en dat betekent een reeks nieuwe cybersecurity-problemen. In de technologiewereld praten mensen over een 'dun aanvalsoppervlak', bijvoorbeeld in een hypervisoropstelling of ingebouwd in server-side beveiliging. Een lopende, pratende robot is daarentegen een zeer dik aanvalsoppervlak - omdat de interfaces verfijnd zijn, zijn er veel manieren voor hackers en slechte actoren om kwetsbaarheden te misbruiken.
Een heel specifiek type cybersecurity-probleem wordt gemengd met een verscheidenheid aan sociale kwesties - je zou het het "impostorsyndroom" kunnen noemen, hoewel die term in de volksmond wordt gebruikt om de slechte werking van onwettige datawetenschappers te beschrijven.
Hoe je het ook noemt, het probleem is dat, omdat kunstmatige intelligentie bepaalde mensen met grotere mate van succes imiteert, het moeilijker zal worden om ervoor te zorgen dat we niet worden onderworpen aan extreem ingewikkelde misleidingen waardoor we de waarheid in twijfel trekken. Je kunt al voorbeelden zien van mensen die gloednieuwe technologieën gebruiken om beroemde politici na te bootsen, zoals in deze video van Barack Obama met cabaretier Jordan Peele. Het bedriegersprobleem zal alleen maar groeien en groeien omdat kunstmatige intelligentie ons nieuwe vensters geeft in het reverse-engineeren van menselijke gedachten en gedragingen.
Over het algemeen zullen deze nieuwe interfaces en mogelijkheden de reeds lopende wapenwedloop tussen beveiligingsprofessionals en hackers escaleren. James Maude schrijft hierover in een artikel over Xconomy, noemt AI een "tweesnijdend zwaard" voor cybersec en wijst erop dat aanvallen over het algemeen minder duur is dan verdedigen en nota nemen van bezorgdheid over privacy en veiligheid. Extrapoleer enkele van deze argumenten naar de AI-robot, en je kunt zien hoe kracht en vermogen gevaar en een behoefte aan discipline met zich meebrengen.
Een ander groot nieuw probleem met Sophia en mobiele robots is dat ze onderweg zijn.
We zijn gewend geraakt aan technologieën zoals IBM's Watson die extreem hoogwaardig cognitief werk verrichten terwijl ze in een datacenter of in een stationaire hardwarestructuur blijven zitten. Dat is wat we gewend zijn - van de vroegste mainframes tot de laptops van vandaag, we hebben allemaal stationaire hardware gebruikt. We hebben nu mobiele telefoons, maar het zijn in wezen zakcomputers. Sentient robotcomputers zijn verbazingwekkend anders. Het zijn autonome bewegende stukken die kunnen worden bewapend door kwaadwillende partijen. Een artikel van Reuters waarin wordt gekeken naar de snelheid van het aanpakken van cyberbeveiligingsproblemen van robots, laat zien hoe robots bijvoorbeeld kunnen 'slingeren' of snel en ongepast kunnen bewegen om mogelijk schade aan te richten.
Uiteindelijk brengen Sophia en robots zoals zij een hoop cyberveiligheidsproblemen en andere zorgen met zich mee. Hoe zullen we legitieme activiteit onderscheiden van misleidende en onwettige activiteit wanneer de interface geen digitaal verbonden netwerk is, maar een mobiel stuk hardware dat ons kan misleiden om te denken dat het op menselijke manieren handelt? Het oversteken van deze brug vereist enorme hoeveelheden technologisch en ethisch werk om ervoor te zorgen dat mensen de touwtjes in handen houden en dat we deze zeer krachtige technologieën gebruiken voor het maatschappelijk belang.
