Algoritme-uitspitter Yves Punie (ECAT): ‘De tijd van het Wilde Westen op sociale media is voorbij’

Hoe kunnen we schadelijke boodschappen en fake news op sociale media aan banden leggen? Die vraag houdt Yves Punie bezig. De Belg staat mee aan het hoofd van een groep Europese experts die voor het eerst inzage krijgt in hoe grote socialemediaplatformen als Facebook, TikTok en X onze aandacht vasthouden en sturen wat we online te zien krijgen.

Yves Punie is deputy head van het European Centre for Algorithmic Transparency (ECAT). Dat is een groep van zo’n 35 psychologen, AI-specialisten, software-ingenieurs, juristen en andere onderzoekers die toegang krijgen tot de schatkamer van socialemediabedrijven: de algoritmes die verantwoordelijk zijn voor wat we te zien krijgen op Facebook, Google, X, YouTube en TikTok.

Het team kan dat dat dankzij de Digital Services Act (DSA), een Europese wet die gebruikers beschermt tegen gevaarlijke en illegale content op platformen met meer dan 45 miljoen Europese gebruikers. Die wet verplicht socialemediareuzen om transparant te zijn, op straffe van geldboetes. Punie bekijkt als sociale wetenschapper samen met zijn collega’s in Brussel, Sevilla en Ispra (Italië) hoe die algoritmes werken, op basis waarvan ze bepaalde video’s of berichten promoten, welke rol ze spelen bij desinformatie en hoe ze zich op bepaalde kwetsbare doelgroepen richten. Het doel: van het internet een veilige plek maken.

Yves Punie: ‘De Digital Services Act beschermt de grondrechten van internetgebruikers en focust op content die gevaarlijk en schadelijk is. Denk aan racisme, het aanzetten tot geweld, kinderporno, boodschappen die fundamentele mensenrechten schenden of die de bescherming van minderheden of het mentale en fysieke welzijn van kinderen en jongeren bedreigen. Bij ECAT bekijken we welke rol algoritmes spelen bij de verspreiding daarvan. We doen dat niet alleen. We werken samen met wetenschappers en onderzoekers wereldwijd om de effecten van algoritmes te begrijpen en empirische bewijzen te verzamelen die aantonen dat er inderdaad een serieus gevaar is. Er is ook een samenwerking met DG Connect, de afdeling van de Europese Commissie die toeziet op de naleving van de wet. Zij kunnen een onderzoek starten op basis van de informatie die we hen overhandigen. Ons werk werpt vruchten af. Verschillende platformen hebben de voorbije maanden hun algoritmes veranderd. Ze doen ook meer inspanningen om illegale content te identificeren en te verwijderen.’

Werken alle socialemediaplatformen evengoed mee?

Punie: ‘Het ene al meer dan het andere, maar door de DSA moeten ze wel. We hebben een stok achter de deur: als bedrijven dwarsliggen, kan Europa een boete geven die oploopt tot zes procent van hun omzet. In sommige gevallen, bijvoorbeeld wanneer er een acuut risico is voor de veiligheid, kan de Europese Commissie zelfs beslissen om platformen tijdelijk stop te zetten’.

Werkt ook Elon Musk mee, een notoir tegenstander van allerlei beperkingen?

‘We weten hoe Musk zich opstelt, maar hij heeft geen keus. Al is het niet altijd van harte. X is samen met TikTok en AliExpress één van de bedrijven waar Europa een procedure tegen gestart is omdat ze onvoldoende inspanningen leveren om de bescherming van de grondrechten te garanderen. Het is afwachten waar dat toe leidt. Musk heeft al gedreigd om X uit Europa terug te trekken. Dat is dan zijn beslissing. Als hij in Europa actief wil zijn, moet hij de Europese wetgeving volgen. Dat is één van de redenen waarom de Digital Services Act er gekomen is: we willen niet dat de grote en machtige internationale platformen bepalen hoe we in Europa onze waarden beschermen.’

De algoritmes die jullie onderzoeken, vergroten vaak het risico op schadelijke en extreme boodschappen?

‘Alle inhoud die we op het internet te zien krijgen, wordt gestuurd door artificiële intelligentie en algoritmes. Wat jij en ik voorgeschoteld krijgen, verschilt op basis van het profiel dat sociale media van ons samenstellen. Maar de algoritmes en de data waarop ze gebaseerd zijn, zijn bevooroordeeld. Dat zorgt voor discriminatie en voor sommige gebruikers die steeds extremere boodschappen te zien krijgen. Dat willen we rechttrekken. We testen de algoritmes, bijvoorbeeld door een profiel van een twaalfjarig meisje met eetstoornissen te creëren, en te kijken welke boodschappen zij te zien krijgt. Dat kan illegale content zijn of mogelijk schadelijke informatie voor dat meisje. We vergaren al die gegevens, leggen die voor aan de platformen en vertellen wat ze moeten doen om de bescherming te garanderen.’

De wet raakt aan de vrijheid van meningsuiting. Ook binnen Europa is daar discussie over.

‘We zijn ons ervan bewust dat dat bij sommige mensen gevoelig ligt, maar het zou onverantwoord zijn om geen regels in te voeren. Wat illegaal is in de fysieke wereld moet ook in de virtuele wereld illegaal zijn. Ik vergelijk het met het verkeer: we hebben ook daar regels om de veiligheid te waarborgen. De DSA is een gamechanger in hoe we omgaan met online content. Voorheen leefden we in het Wilde Westen, nu zijn er regels die ervoor moeten zorgen dat we een veilig internet krijgen voor iedereen.’

Veel boodschappen op sociale media richten zich op emoties en controverse. Zal dat door de Digital Services Act minder het geval zijn?

‘Deels wel, als die boodschappen bijdragen tot de risico’s die de DSA vastlegt. Als bepaalde boodschappen bijvoorbeeld het mentale welzijn van kinderen en jongeren in het gedrang brengen, zullen die zoveel mogelijk geweerd moeten worden.’

Een ander heet hangijzer, zeker nu de verkiezingen eraan komen, is de vrees voor buitenlandse beïnvloeding en fake news.

‘Desinformatie is misschien wel de grootste uitdaging waar we online voor staan. Er circuleren miljoenen valse boodschappen. De tools om ze te maken en verspreiden zijn talrijker en laagdrempeliger dan ooit. De Digital Services Act heeft natuurlijk op zich geen invloed op het aanbod aan fake news, maar wel op de manier waarop we het proberen tegen te gaan en te vermijden. Door te kijken naar de rol die algoritmes daarin spelen, willen we dat counteren.’

‘De Digital Services Act verplicht platformen om de integriteit van de verkiezingen te beschermen en ervoor te zorgen dat informatie errond correct is. De Europese Commissie heeft dertig à veertig richtlijnen opgesteld om dat voor, tijdens en na de verkiezingen te waarborgen. Socialemediabedrijven moeten specifieke verkiezingsteams opzetten met kennis van de lokale situatie per land. Ze moeten ook proberen om te verwijzen naar officiële, geverifieerde informatie en samenwerken met middenveldorganisaties, ngo’s en politieke actoren. Ze krijgen heel veel instrumenten aangereikt om de integriteit van de verkiezingen te beschermen.’

De strijd tegen nepnieuws is voor u niet verloren?

‘We staan voor een enorme taak, dat is duidelijk. We zitten door de oorlog in Oekraïne en Gaza in een geopolitieke situatie die het zwaarder maakt. Rusland is heel actief in het verspreiden van fake news, met de bedoeling de Europese samenleving te destabiliseren. Europa probeert haar rol te spelen door platformen te verplichten hun verantwoordelijkheid te nemen, maar het is belangrijk dat alle betrokkenen hun steentje bijdragen. Ik denk dat we een ecosysteem moeten creëren waarin verschillende actoren samenwerken om een veiliger internet mogelijk te maken. Onderwijs is bijvoorbeeld ook heel belangrijk. We moeten ervoor zorgen dat mensen digitaal geletterd zijn, zodat ze zich beter kunnen wapenen tegen fake news en andere schadelijke boodschappen. Ook ngo’s en andere maatschappelijke actoren moeten hun rol spelen. We werken ook nauw met hen samen.’

‘Ik denk dat we trots mogen zijn op wat Europa doet. Ook andere regio’s in de wereld roepen regels in het leven voor sociale media, maar wij doen het als eerste op een systematische manier. Ons werk stopt ook niet. We zijn continu bezig met het monitoren van sociale media en hoe ze werken. De manier waarop Europa die regelt, moet mee-evolueren. Een belangrijk thema wordt in de toekomst bijvoorbeeld het feit dat boodschappen die door artificiële intelligentie gemaakt worden een label zullen moeten krijgen. Platformen zullen binnen Europa moeten aangeven dat het bij bepaalde video’s of berichten om niet-geverifieerde AI gaat. Het is een enorm werk. Socialemediaplatformen gebruiken complexe algoritmes en kunstmatige intelligentie die zelfstandig bijleert en dagelijks verandert, maar we hebben veel expertise en organisaties waarmee we samenwerken.’

Deze 19 techbedrijven vallen onder scherpere EU-wetgeving