Het jongste EU-voorstel rond Chat Control ligt op 12 september opnieuw op tafel, maar volgens professor cryptografie en Computerbeveiliging Bart Preneel (KU Leuven) mist het Deense initiatief opnieuw de kern van het probleem. ‘Kleine verbeteringen zoals snellere meldingen veranderen niets aan de structurele privacyrisico’s.’
Het Deense voorstel van juli dit jaar rond Chat Control lijkt op het eerste gezicht milder: tekst- en audioberichten zouden voorlopig niet meer worden gescand, alleen beelden en URL’s – waardoor de naam ‘Chat Control’ wegvalt. Maar volgens Preneel, mede-initiatiefnemer van de nieuwe open brief, is dat vooral een tijdelijk compromis. ‘In de wetteksten staat dat tekst en audio later weer toegevoegd kunnen worden. Het is dus eerder een strategie om de massale kritiek te sussen, niet om de technologie echt te begrenzen.’
Honderden wetenschappers bekritiseren nieuwste EU-wetsvoorstel ‘Chat Control’ in (inmiddels vierde) open brief
Daarnaast legt het voorstel aanbieders op om alle redelijke technische maatregelen te nemen om misbruik te voorkomen, inclusief verplichte leeftijdsverificatie en -beoordeling. ‘Die verplichting klinkt misschien proportioneel, maar maakt systemen ook complexer en kwetsbaarder. Bovendien tast ze de anonimiteit van gebruikers aan én opent ze de deur naar censuur of misbruik. Daarbij komt nog dat zulke maatregelen eenvoudig kunnen worden omzeild via een VPN of het account van een ouder.’
Hoogrisicodiensten, AI-detectie en on-device scanning
Verder introduceert het Deense voorstel de classificatie van ‘hoogrisicodiensten’. Alleen daar zouden detectie-opdrachten verplicht zijn. Preneel noemt die toevoeging een rookgordijn. ‘Onder deze categorie vallen de grote versleutelde chatdiensten zoals WhatsApp, Messenger en Signal – precies die apps waarmee het gros van de Europese burgers communiceert.’
Cruciaal in het Europese wetsvoorstel blijft de inzet van on-device scanning: controles nog vóór de encryptie plaatsvindt. ‘Men zegt: we respecteren je encryptie, maar intussen kijkt er wel een algoritme mee op je toestel. Dat is alsof de overheid beweert je post niet te lezen, maar wel een camera in elke kamer van je huis laat installeren. Encryptie verliest zo zijn essentie.’
Opvallend is de terugkeer van een element dat in het Belgische compromis van juni 2024 nog was geschrapt: de inzet van AI om ‘nieuwe’ beelden (CSAM) te detecteren – materiaal dat nog niet voorkomt in bestaande databanken rond kindermisbruik. Dat kan gaan om een onschuldige foto van zoon- of dochterlief aan het zwembad voor je partner, of beelden van de huiduitslag van je kind die je naar de huisarts stuurt. ‘AI kan zulke beelden onmogelijk correct in hun context plaatsen, en wij betwijfelen sterk dat dit ooit zal lukken. Wordt dit toch ingevoerd, dan riskeren politiediensten overspoeld te worden met ‘false negatives’ en kunnen duizenden onschuldige gebruikers plots als verdachten van kinderpornografie worden bestempeld.’
Kleine pluspunten, grote minpunten
Ondanks alle kritiek erkent Preneel dat het voorstel ook enkele procedurele verbeteringen bevat. Zo wordt het voor gebruikers eenvoudiger om vermoedelijke illegale beelden te melden, en moeten aanbieders sneller reageren op deze meldingen. ‘Dat zijn nuttige stappen. Ze zorgen ervoor dat de problemen worden aangepakt waar ze ontstaan en niet worden verschoven naar andere communicatiekanalen of producten.’ Maar dat vereist nog geen massale digitale surveillance, stelt de cryptografie-expert. ‘Vandaag gaat het om kindermisbruik, morgen om terrorisme, en overmorgen om politiek afwijkende meningen in twijfelachtige democratieën en dictaturen.’
In oktober 2023 keurde het Europees Parlement nog een sterk afgezwakte variant van het huidige voorstel goed. ‘In die tekst vonden geen verplichte scans bij end-to-end versleutelde communicatie plaats, en bleven AI en nieuwe beelden buiten beschouwing,’ herinnert de hoogleraar. ‘Wat mij en veel van mijn collega’s betreft, moet een nieuw initiatief op z’n minst naar deze versie terugkeren.’
Toch blijft volgens de cryptograaf de kern onaangeroerd: kindermisbruik los je niet op door alle Europese communicatie te scannen. ‘Die beelden bestaan omdat er misbruik plaatsvindt. Om dat een halt toe te roepen, moet je inzetten op educatie, preventie, trauma-sensitieve meldpunten en ondersteuning van slachtoffers. Maatregelen waarop UNICEF en andere organisaties ook al jaren hameren.’
Na drie jaar debat en vier open brieven blijft Preneel strijdvaardig. ‘De verschuiving naar rechts is duidelijk voelbaar in het Europees Parlement, maar mijn collega’s en ik blijven aan de alarmbel trekken om de Europese fundamentele rechten te beschermen. We hopen dat de lidstaten die zich eerder onthielden, waaronder België, op 12 september tegen het voorstel zullen stemmen.’
Lees hier de open brief van 467 wetenschappers uit 33 landen.
Honderden wetenschappers bekritiseren nieuwste EU-wetsvoorstel ‘Chat Control’ in (inmiddels vierde) open brief