Belangrijkste leerpunten
- AI- en machine learning-algoritmen houden menselijk gedrag in de gaten en kunnen het leren manipuleren, zeggen experts.
- Onderzoekers hebben onlangs een manier ontwikkeld om kwetsbaarheden te vinden en te exploiteren in de manier waarop mensen keuzes maken met behulp van AI.
- Het meest geavanceerde algoritme voor sociale media op dit moment is TikTok, zegt een waarnemer.
Kunstmatige intelligentie (AI) en algoritmen voor machine learning leren steeds meer hoe ze het gedrag van gebruikers kunnen beïnvloeden, zeggen experts. Onderzoekers van het Australische nationale wetenschapsbureau hebben onlangs een manier ontwikkeld om kwetsbaarheden te vinden en te exploiteren in de manier waarop mensen keuzes maken met behulp van AI. Het nieuwste onderzoek is slechts een van een golf van AI-gestuurde systemen die zijn ontworpen om menselijke besluitvorming te manipuleren. “Er komt geen einde aan de vele manieren waarop AI gedrag al beïnvloedt”, zegt Kentaro Toyama, een professor aan de University of Michigan School of Information en auteur van
Geek Heresy: sociale verandering redden van de cultus van technologie, zei in een e-mailinterview. “Als je ooit een Google-zoekopdracht hebt gedaan en een link hebt opgevolgd, werd je beïnvloed door een AI-systeem dat je interesses raadde en resultaten opleverde waarvan het dacht dat het het meest relevant voor je was.”
AI versus mensen
In het Australische onderzoek dat onlangs in een paper is gepubliceerd, speelden menselijke deelnemers in verschillende experimenten games tegen een computer. Bij het eerste experiment klikten deelnemers op rood- of blauwgekleurde vakjes om geld te winnen. De AI was ongeveer 70% van de tijd succesvol, leerde de keuzepatronen van de deelnemer en leidde hen naar een specifieke keuze. In een ander experiment keken deelnemers naar een scherm en drukten ze op een knop wanneer ze een bepaald symbool te zien kregen, of ze drukten er niet op toen ze een ander symbool kregen aangeboden. De AI leerde de symbolen opnieuw te rangschikken, waardoor de deelnemers meer fouten maakten.
Het resultaat van de experimenten, concludeerden onderzoekers, was dat AI leerde van de reacties van deelnemers. De machine identificeerde en richtte vervolgens kwetsbaarheden in de besluitvorming van mensen op. In feite zou de AI deelnemers kunnen manipuleren om bepaalde acties te ondernemen. Het feit dat AI of machine learning mensen kan manipuleren, zou geen verrassing moeten zijn, zeggen waarnemers. “AI beïnvloedt ons gedrag elke dag”, zei Tamara Schwartz, assistent-professor cyberbeveiliging en bedrijfskunde aan het York College of Pennsylvania, in een e-mailinterview. “We horen de hele tijd over de algoritmen in sociale media-applicaties zoals Facebook of Twitter. Deze algoritmen richten onze aandacht op gerelateerde inhoud en creëren het ‘echokamer’-effect, dat op zijn beurt ons gedrag beïnvloedt.”
TikTok is aan het kijken
Het meest geavanceerde algoritme voor sociale media op dit moment is TikTok, zei Schwartz. De app analyseert waarin je geïnteresseerd bent, hoe lang je naar iets kijkt en hoe snel je iets overslaat, en verfijnt vervolgens het aanbod zodat je blijft kijken. “TikTok is veel verslavender dan andere platforms vanwege dit AI-algoritme, dat begrijpt wat je leuk vindt, hoe je leert en hoe je informatie kiest”, voegde ze eraan toe. “We weten dit omdat de gemiddelde tijd die gebruikers op TikTok doorbrengen 52 minuten is.” De manipulatie van menselijk gedrag door kunstmatige intelligentie zou positieve toepassingen kunnen hebben, betoogde Chris Nicholson, CEO van AI-bedrijf Pathmind, in een e-mailinterview. Volksgezondheidsinstanties zouden bijvoorbeeld AI kunnen gebruiken om mensen aan te moedigen betere beslissingen te nemen.
“Sociale media, makers van videogames, adverteerders en autoritaire regimes zijn echter op zoek naar manieren om mensen ertoe aan te zetten beslissingen te nemen die niet in hun belang zijn, en dit zal hen nieuwe tools geven om dat te doen”, voegde hij eraan toe. De ethische problemen met AI die gedrag beïnvloedt, zijn vaak gradueel, zei Toyama. AI maakt gericht adverteren mogelijk waarin individuele voorkeuren en zwakke punten kunnen worden uitgebuit. “Het is bijvoorbeeld mogelijk voor een AI-systeem om mensen te identificeren die proberen te stoppen met roken en ze te doorspitten met verleidelijke sigarettenadvertenties”, voegde hij eraan toe. Niet iedereen is het erover eens dat AI-manipulatie van menselijk gedrag problematisch is. Klassieke psychologie en AI observeren beide gegevens, zei Jason J. Corso, directeur van het Stevens Institute for Artificial Intelligence, in een e-mailinterview. “Menselijke wetenschappers zijn waarschijnlijk beter in het generaliseren van observaties en het distilleren van theorieën over menselijk gedrag die mogelijk breder toepasbaar zijn, terwijl de AI-modellen meer geschikt zouden zijn voor het identificeren van probleemspecifieke nuances,” zei Corso. “Vanuit ethisch oogpunt zie ik daar geen verschil tussen.”
