Belangrijkste afhaalrestaurants
- AI- en machine learning-algoritmen kijken naar menselijk gedrag en kunnen dit leren manipuleren, zeggen experts.
- Onderzoekers hebben onlangs een manier ontwikkeld om kwetsbaarheden te vinden en te exploiteren in de manier waarop mensen keuzes maken met behulp van AI.
- Het meest geavanceerde algoritme voor sociale media op dit moment is TikTok, zegt een waarnemer.
Artificiële intelligentie (AI) en machine learning-algoritmen leren steeds meer hoe ze het gedrag van gebruikers kunnen beïnvloeden, zeggen experts.
Onderzoekers van het Australische nationale wetenschapsbureau hebben onlangs een manier ontwikkeld om kwetsbaarheden te vinden en te exploiteren in de manier waarop mensen keuzes maken met behulp van AI. Het laatste onderzoek is slechts een van de vele AI-gestuurde systemen die zijn ontworpen om menselijke besluitvorming te manipuleren.
"Er komt geen einde aan de vele manieren waarop AI gedrag al beïnvloedt", Kentaro Toyama, een professor aan de University of Michigan School of Information en auteur van Geek Heresy: Rescuing Social Change from the Cult of Technology, zei in een e-mailinterview.
"Als je ooit een Google-zoekopdracht hebt uitgevoerd en een link hebt opgevolgd, werd je beïnvloed door een AI-systeem dat je interesses raadde en resultaten opleverde waarvan het dacht dat het het meest relevant voor je was."
AI versus mensen
In het Australische onderzoek dat onlangs in een paper is gepubliceerd, speelden menselijke deelnemers games tegen een computer in verschillende experimenten. Bij het eerste experiment klikten deelnemers op rood- of blauwgekleurde vakjes om geld te winnen.
De AI was ongeveer 70% van de tijd succesvol, leerde de keuzepatronen van de deelnemer en leidde hen naar een specifieke keuze.
In een ander experiment keken deelnemers naar een scherm en drukten ze op een knop wanneer ze een bepaald symbool te zien kregen, of ze drukten er niet op toen ze een ander symbool kregen aangeboden. De AI leerde de symbolen opnieuw te rangschikken, zodat de deelnemers meer fouten maakten.
Het resultaat van de experimenten, concludeerden onderzoekers, was dat AI leerde van de reacties van deelnemers. De machine identificeerde en richtte vervolgens kwetsbaarheden in de besluitvorming van mensen op. In feite zou de AI deelnemers kunnen manipuleren om bepaalde acties te ondernemen.
Het feit dat AI of machinaal leren mensen kan manipuleren, zou geen verrassing moeten zijn, zeggen waarnemers.
"AI beïnvloedt ons gedrag elke dag", zei Tamara Schwartz, assistent-professor cyberbeveiliging en bedrijfskunde aan het York College of Pennsylvania, in een e-mailinterview.
"We horen de hele tijd over de algoritmen in sociale-mediatoepassingen zoals Facebook of Twitter. Deze algoritmen richten onze aandacht op gerelateerde inhoud en creëren het 'echokamer'-effect, dat op zijn beurt ons gedrag beïnvloedt."
TikTok is aan het kijken
Het meest geavanceerde algoritme voor sociale media op dit moment is TikTok, zei Schwartz. De app analyseert waarin je geïnteresseerd bent, hoe lang je naar iets kijkt en hoe snel je iets overslaat, en verfijnt vervolgens het aanbod zodat je blijft kijken.
"TikTok is veel verslavender dan andere platforms vanwege dit AI-algoritme, dat begrijpt wat je leuk vindt, hoe je leert en hoe je informatie kiest", voegde ze eraan toe. "We weten dit omdat de gemiddelde tijd die gebruikers op TikTok besteden 52 minuten is."
De manipulatie van menselijk gedrag door kunstmatige intelligentie zou positieve toepassingen kunnen hebben, betoogde Chris Nicholson, CEO van AI-bedrijf Pathmin, in een e-mailinterview. Volksgezondheidsinstanties zouden bijvoorbeeld AI kunnen gebruiken om mensen aan te moedigen betere beslissingen te nemen.
"Sociale media, makers van videogames, adverteerders en autoritaire regimes zijn echter op zoek naar manieren om mensen ertoe aan te zetten beslissingen te nemen die niet in hun belang zijn, en dit zal hen nieuwe tools geven om dat te doen, " voegde hij eraan toe.
De ethische problemen met AI die gedrag beïnvloedt, zijn vaak gradueel, zei Toyama. AI maakt gerichte reclame mogelijk waarbij gebruik kan worden gemaakt van individuele voorkeuren en zwakke punten.
"Het is bijvoorbeeld mogelijk voor een AI-systeem om mensen te identificeren die proberen te stoppen met roken en ze te doorspekken met verleidelijke sigarettenadvertenties," voegde hij eraan toe.
Niet iedereen is het ermee eens dat AI-manipulatie van menselijk gedrag problematisch is. Klassieke psychologie en AI observeren beide gegevens, zei Jason J. Corso, directeur van het Stevens Institute for Artificial Intelligence, in een e-mailinterview.
"Menselijke wetenschappers zijn waarschijnlijk beter in het generaliseren van observaties en het distilleren van theorieën over menselijk gedrag die mogelijk breder toepasbaar zijn, terwijl de AI-modellen meer geschikt zouden zijn voor het identificeren van probleemspecifieke nuances," zei Corso.
"Vanuit ethisch oogpunt zie ik geen verschil tussen deze."
