Er is een nieuw compromisvoorstel rond het controversiële Chat Control dat berichten van burgers moet controleren. Maar ook dit voorstel rammelt, zo hekelen wetenschappers en onderzoekers in een nieuwe open brief.
We meldden het begin deze maand al: Chat Control is weer helemaal terug in de actualiteit, van nooit helemaal weggeweest. Chat Control is kort samengevat regulering die formeel dient om de verspreiding van beelden van seksueel misbruik van kinderen te voorkomen. Maar de wet gaat zeer ver in het aantasten van onze privacy, zonder garantie dat het verspreiders van kinderporno zal tegenhouden.
Concreet wil het voorstel chatapps zoals WhatsApp, Signal, Messenger of andere platformen verplichten om vanop het toestel van de verzender een controle in te schakelen. Wil je een beeld verzenden dat bekend staat als ‘CSAM’ – wat staat voor Child Sexual Abuse Material -, dan wordt dat tegengehouden. Maar het betekent dus ‘client side scanning’ van alle beelden – inclusief bijvoorbeeld onschuldige foto’s van zoonlief in bad die de mama naar de papa stuurt.
Derde open brief
Een en ander leidt tot fel privacyprotest tegen het Europese voornemen: niet alleen vanuit privacyvoorvechters maar ook vanuit wetenschappelijke hoek. De discussie draait ook rond de technologische aanpak en hoe om te gaan met end-to-end encryptie: versleuteling die het chatverkeer tussen gebruikers onleesbaar maakt voor externen – ja, ook voor de eigenaars van de platformen. Het leidde tot een eerste open brief van meer dan 150 wetenschappers waarin ze hun zorgen uiten. In mei volgde – na een reeks aanpassingen aan het originele voorstel – een tweede brief, ditmaal door 250 wetenschappers ondertekend. ‘Ze maken het ingewikkelder, maar in weze verandert er niets,’ vertelde wereldwijd gerenommeerd professor cryptografie Bart Preneel (KU Leuven) toen aan Data News.
Onder het Belgisch voorzitterschap van de EU, werd en nieuwe tekst op tafel gegooid en verder gediscussieerd maar België slaagde er niet in om een compromis te vinden. ‘Nu moet Hongarije een consensus proberen te vinden’, vertelt Preneel die net mee zijn schouders gezet heeft onder een nieuwe open brief, opnieuw ondertekend door zo’n 250 wetenschappers en onderzoekers.
De aanpassingen zijn vooral schijnmaatregelen die niets aan de essentie veranderen
‘Dit komt niet goed’
‘In het nieuwe voorstel dat nu circuleert zitten inderdaad toegevingen of afzwakkingen. Maar het zijn vooral schijnmaatregelen die niets aan de essentie veranderen’, zegt Preneel. ‘Neem nu het gebruik van AI om CSAM-materiaal te detecteren. Dat wordt weliswaar ‘optioneel’ in dit voorstel en wordt voor een stuk aan banden gelegd, maar het verandert niets aan het grote probleem van client-side scanning. Het probleem is hier dat end-to-end encryptie nutteloos wordt’, stelt Preneel die de analogie met brievenpost aanhaalt. ‘End-to-end encryptie is zoals een gesloten enveloppe die pas door de ontvanger geopend wordt. Maar client-side-scanning is alsof datzelfde postbedrijf bij jou thuis wel een camera plaatst om te controleren wat je precies in de enveloppe stopt’, klinkt het.
Los van de privacybezwaren ziet Preneel ook het nut van de voorgestelde oplossing niet. ‘Het is geen oplossing voor het probleem. Het beeldmateriaal is een gevolg van het probleem dat aan de bron aangepakt zou moeten worden. Bovendien vrees ik dat de scanning ook zeer gemakkelijk omzeild gaat kunnen worden door snel wat aanpassingen aan een origineel beeld te doen waardoor het de detectie passeert.’
Is er nog hoop?
Preneel en de ondertekenaars zien in de voorgestelde aanpassingen vooral schijnmanoeuvres die niks aan de essentie veranderen. ‘De discussie rond kinderporno is sowieso emotioneel beladen. In essentie hebben we uiteraard geen probleem met de bestrijding er van. Maar Chat Control is écht niet de manier waarop we het probleem gaan oplossen’, meent Preneel.
‘Het is sowieso een hellend vlak met zelfs gevaren voor onze democratie. Het begint met het scannen op CSAM-content. Maar eenmaal de technologie er is, kan de scanning even goed voor andere doeleinden ingezet worden. Wie weet wat onze huidige of toekomstige leiders allemaal willen opsporen?’, stelt Preneel zich de vraag.
Kan het dan na de nodige onderhandelingen en aanpassingen toch nog goed komen met Chat Control? ‘Nee’, klinkt het gedecideerd bij Preneel. ‘Omdat het initiële opzet gewoon niet goed zit. Niet qua privacy, maar zeker ook niet qua technologie. We hebben het dan nog niet eens gehad over de afhandeling bij detectie van CSAM-materiaal. Puur technologisch is dit lang niet evident: Apple heeft het in 2021 willen opzetten maar is ermee gestopt. Nee, als dit opzet fundamenteel behouden blijft gaat de wetgeving sowieso haar doel voorbij schieten’.
Fout opgemerkt of meer nieuws? Meld het hier