Q:
Waarom zou een bedrijf een chatbot AI-project afsluiten?
EEN:Bedrijven kunnen om vele redenen kunstmatige chatbotprojecten afsluiten, maar de meest waarschijnlijke kunnen in een paar categorieën worden gegroepeerd. Ten eerste kunnen bedrijven chatbot-technologieën afsluiten als ze handelen op een manier die het bedrijf ongemakkelijk kan maken, zoals het promoten van aanstootgevende spraak. Als alternatief kunnen bedrijven een chatbot-project afsluiten als het bewustzijn en vermogen begint aan te tonen dat ofwel niet gemakkelijk te beheersen is, of een soort van mogelijke bedreiging voor de volksgezondheid en veiligheid kan vormen.
We hebben beide scenario's gedocumenteerd in de recente geschiedenis. Het experiment van Microsoft met de Tay-chatbot eindigde toen Tay enkele van de ergste kenmerken van zijn menselijke tegenhangers begon aan te nemen - racistische en agressieve opmerkingen en over het algemeen aanstootgevende activiteit, waarvan een groot deel duidelijk werd geleerd of zelfs rechtstreeks van gebruikers werd gepeild.
In een heel andere case study werd een chatbot-opstelling die door Facebook was ontwikkeld, stilgelegd toen wetenschappers twee chatbots observeerden die met elkaar communiceerden op een manier die enigszins exclusief was voor menselijke observatie. Er was de bewering dat chatbot-entiteiten waren begonnen "in een soort code te praten" die voor hen handiger en minder transparant voor hun menselijke handlers was. Dit is een voorbeeld van die zeer reële bezorgdheid over kunstmatige intelligentie in het algemeen - dat als we grote vooruitgang boeken in de progressie van sterke kunstmatige intelligentie, mensen moeten handelen om alle voorbeelden van AI-implementatie te bevatten en te controleren om ervoor te zorgen dat ze niet worden overschreden grenzen. Er zijn een groot aantal ethische problemen en veiligheidsproblemen die moeten worden aangepakt met sterke kunstmatige intelligentie, en dit is een van de belangrijkste redenen dat sommige chatbots of andere kunstmatige intelligentieprojecten in de toekomst kunnen worden stilgelegd door de belanghebbenden die hebben gebouwd en ondersteunde hen door een bepaald proces.
