De Europese Commissie wil de komende maanden de grote online platformen onderwerpen aan een stresstest die duidelijk moet maken hoe ze zouden reageren bij (verkiezings)manipulatie met behulp van nagemaakte beelden of ander AI-gegenereerd materiaal.
Het gaat in de eerste plaats om een verzoek om informatie bij een aantal grote platformen met als doel dat zowel de Europese overheid als de betrokken spelers klaar zijn voor alle mogelijke vormen van manipulatie. Op korte termijn met het zicht op de Europese verkiezingen, op langere termijn gaat dat breder, bijvoorbeeld nagemaakte beelden van een bekend persoon.
Op wat platformen zich precies moeten voorbereiden is niet concreet, maar in principe op elk mogelijk incident dat zelfs kort voor de verkiezingen kan opduiken op de platformen, of door die platformen wordt versterkt.
‘We vragen platformen of ze klaar zijn voor scenario’s met last minute injecties van deepfakes met een grote impact,’ Aldus een woordvoerder. De Commissie spreekt onder meer over deepfake video’s, maar nuanceert dat het om elke vorm van generatieve AI kan gaan: tekst, nagemaakte audio, stilstaande beelden…
Met de test wil Europa weten hoe vlot zo’n incidenten worden geëscaleerd en aangepakt worden door de platformen. Tegelijk worden er vragen gesteld over de mate waarin generatieve AI op de platformen wordt gebruikt en schadelijk kan zijn.
Fout opgemerkt of meer nieuws? Meld het hier