Q:
Wat zijn enkele ethische kwesties met betrekking tot machine learning?
EEN:De ethische kwesties rond machine learning betreffen niet zozeer machine learning-algoritmen zelf, maar de manier waarop de gegevens worden gebruikt.
Het Cambridge Analytica-schandaal met Facebook, waar een politiek adviesbureau gegevens van de sociale netwerksite gebruikte zonder medeweten of toestemming van gebruikers, illustreerde veel van de problemen in verband met het verzamelen en gebruiken van gebruikersgegevens. Hoewel veel licentieovereenkomsten voor eindgebruikers specificeren hoe de gegevens van gebruikers kunnen worden gebruikt, lezen veel gebruikers van sociale media mogelijk de kleine lettertjes niet.
| Gratis download: machine learning en waarom het ertoe doet |
Een ander probleem is dat deze machine learning-algoritmen "black boxes" kunnen zijn, waarbij het onmogelijk is om te zien hoe ze echt werken. Het is misschien onmogelijk om te weten waarom een machine learning-algoritme een beslissing heeft genomen.
Een onderdeel van machine learning is het stellen van medische diagnoses. Een algoritme kan naar röntgenfoto's kijken om kanker te vinden. Een menselijke arts kan uitleggen waarom ze een diagnose hebben gesteld, maar we weten misschien niet hoe een machine learning-algoritme heeft vastgesteld dat een patiënt kanker heeft of niet.
Het vrijgeven van machine learning-programma's onder open-source licenties is één oplossing. Wanneer mensen naar de broncode voor een programma kunnen kijken, kunnen ze zien hoe het beslissingen neemt.
Een ander probleem is het gebruik van trainingsgegevens voor machine learning en mogelijke vooroordelen. Er zijn verschillende gevallen geweest van raciale en andere vooroordelen waardoor het onbedoeld in machine learning-programma's terechtkwam. Een algoritme identificeerde zwarte mensen als gorilla's, en een ander veranderde de gelaatstrekken van gekleurde mensen om ze meer "Europees" te laten lijken terwijl ze beweerden ze te verfraaien.
Een manier om dit tegen te gaan is om meer mensen met verschillende achtergronden op het gebied van AI te hebben.
Een ander probleem is het veilige gebruik van machine learning en kunstmatige intelligentie. AI- en machine learning-programma's kunnen gedrag ontwikkelen dat mensen niet zouden willen, zoals mensen ervan weerhouden ze uit te schakelen.
