Belangrijkste afhaalrestaurants
- Onderzoekers hebben een AI-systeem ontwikkeld dat bedoeld is om nepnieuws op te sporen en te markeren.
- Het model doorzoekt een openbare dataset met nepnieuws, waarschuwt gebruikers en leidt ze door naar geverifieerde informatiebronnen.
-
Er zijn een groeiend aantal AI-methoden om online nepnieuws tegen te gaan.
Kunstmatige intelligentie (AI) helpt de snelle verspreiding van desinformatie online te beteugelen, zeggen experts.
Onderzoekers hebben een AI-systeem ontwikkeld dat bedoeld is om nepnieuws op te sporen en te markeren. Het model doorzoekt een openbare dataset met nepnieuws, waarschuwt gebruikers en leidt ze door naar geverifieerde informatiebronnen. Het maakt deel uit van een groeiend aantal AI-methoden om vals nieuws tegen te gaan.
"De hoeveelheid informatie die over het internet stroomt, met name sociale netwerken, is enorm en kan niet handmatig worden verwerkt, vooral niet met hoge nauwkeurigheid," Wael AbdAlmageed, een professor computertechniek aan de Universiteit van Zuid-Californië, die ontwikkelde AI-algoritmen voor het detecteren van visuele verkeerde informatie, vertelde Lifewire in een e-mailinterview.
"Het is belangrijk om desinformatie in re altime te volgen en te markeren, want zodra desinformatie zich begint te verspreiden, is het moeilijk om mensen ervan te overtuigen dat de informatie onjuist is, vooral wanneer verkeerde informatie onze vooroordelen bevestigt," voegde hij eraan toe.
Houd het echt
De AI-techniek die is ontwikkeld door een team van de Macquarie University in Australië, kan de verspreiding van nepnieuws helpen verminderen. Het model kan worden opgenomen in een app of websoftware en biedt links naar relevante 'echte' informatie die aansluit bij de interesses van elke gebruiker.
"Wanneer u online nieuws leest of bekijkt, worden vaak nieuwsverhalen over soortgelijke gebeurtenissen of onderwerpen aan u voorgesteld met behulp van een aanbevelingsmodel", zei Shoujin Wang, een datawetenschapper aan Macquarie University die aan het onderzoek werkte, in de persbericht.
Wang zegt dat nauwkeurig nieuws en nepnieuws voor hetzelfde evenement vaak verschillende inhoudsstijlen gebruiken, waardoor computermodellen worden verward om ze te behandelen als nieuws voor verschillende evenementen.
Het model van Macquarie University 'ontwart' de informatie van elk nieuwsbericht in twee delen: de borden die aangeven of het nieuwsbericht nep is en de evenementspecifieke informatie die het onderwerp of de gebeurtenis laat zien waar het nieuwsbericht over gaat. Het model zoekt vervolgens naar patronen in hoe gebruikers schakelen tussen verschillende nieuwsberichten om te voorspellen in welke nieuwsgebeurtenis de gebruiker de volgende keer geïnteresseerd kan zijn om te lezen.
Het onderzoeksteam heeft het model getraind op een openbare dataset van nepnieuws gepubliceerd op GitHub, genaamd FakeNewsNet, waarin nepnieuws van PolitiFact en GossipCop wordt opgeslagen, samen met gegevens als nieuwsinhoud, sociale context en leesgeschiedenis van gebruikers.
De groei van nepnieuws
Nepnieuws is een groeiend probleem, suggereren studies. NewsGuard heeft ontdekt dat een aanzienlijk deel van de groei in sociale media afkomstig was van onbetrouwbare websites. In 2020 was 17 procent van de betrokkenheid bij de top 100 nieuwsbronnen afkomstig van Red-rated (over het algemeen onbetrouwbare) sites, vergeleken met ongeveer 8 procent in 2019.
Subramaniam Vincent, de directeur van Journalism and Media Ethics bij Markkula Center for Applied Ethics aan de Santa Clara University, vertelde Lifewire in een e-mailinterview dat AI kan helpen desinformatie tegen te gaan.
De technologie kan worden gebruikt voor "het monitoren van accountgedrag voor georkestreerd delen gecorreleerd met haatzaaiende uitlatingen of reeds ontkrachte beweringen of ontkracht worden door factcheckers of bekende propagandistische staatsentiteiten of opkomende groepen met een snelle toename van het aantal leden", legde Vincent uit. "AI kan ook samen met ontwerp worden gebruikt om inhoud van bepaalde typen te markeren om wrijving toe te voegen voordat ze worden gedeeld."
AbdAlmageed zei dat sociale netwerken algoritmen voor het detecteren van nepnieuws moeten integreren als onderdeel van hun aanbevelingsalgoritmen. Het doel, zei hij, is om "nepnieuws te markeren als nep of niet accuraat als ze het delen van nepnieuws niet volledig willen voorkomen."
Dat gezegd hebbende, hoewel AI nuttig kan zijn om nepnieuws tegen te gaan, heeft de aanpak zijn nadelen, zei Vincent. Het probleem is dat AI-systemen de betekenis van menselijke spraak en schrijven niet kunnen begrijpen, dus ze zullen altijd achter de feiten aanlopen.
"Hoe nauwkeuriger AI kan worden met sommige vormen van openlijke haatzaaiende uitlatingen en desinformatie, hoe meer de menselijke cultuur zal verhuizen naar nieuwere code en ondergrondse betekenisoverdracht om te organiseren," zei Vincent.
Wasim Khaled, CEO van Blackbird. AI, een bedrijf dat desinformatie controleert, zei in een e-mail aan Lifewire dat online desinformatie een groeiende bedreiging is. Nieuwe AI-systemen moeten kunnen voorspellen waar nepnieuws de volgende keer zal verschijnen.
"In de meeste gevallen kun je geen AI-product bouwen en het klaar noemen", zei Khaled. "Gedragspatronen veranderen in de loop van de tijd en het is belangrijk dat uw AI-modellen deze veranderingen bijhouden."
