In een uitgebreid artikel beschrijft ProPublica dat WhatsApp al enkele jaren uitpakt met encryptie en daarbij zegt dat het bedrijf geen berichten, foto's of andere inhoud in gesprekken kan inkijken. Maar tegelijk heeft het bedrijf wel meer dan duizend mensen in dienst (via Accenture in onderaanneming) om berichten op WhatsApp te monitoren. Dat strookt volgens de site niet met de beweringen rond encryptie.

5 berichten voor mensen

Maar de praktijk is een stuk genuanceerder. Zo krijgen de moderatoren voor WhatsApp pas berichten te zien als een van de chatters een gesprek rapporteert. Op dat moment wordt het gerapporteerde bericht plus de vier voorafgaande berichten (en eventuele foto's of video's) gedeeld met WhatsApp. Daarbij krijg je als gebruiker ook expliciet de melding dat een kort deel van de chat zal worden doorgestuurd naar WhatsApp.

ProPublica sprak met zo'n 29 huidige en voormalige moderatoren voor WhatsApp en dat geeft wel een interessante inkijk in de werking. Zo krijgen de moderatoren tot zeshonderd meldingen per dag, minder dan één minuut per rapportering, waarvan ze moeten aangeven of een rapportering terecht is en de gebruiker al dan niet verder wordt onderzocht of een ban krijgt. Maar verdere details over de identiteit van de chatters of andere metadata zit daar niet in.

Ook Alex Stamos, voormalig hoofd security bij Facebook en doorgaans kritisch voor het bedrijf, merkt op dat het een balans is die je moet hanteren. Hij merkt op dat een populaire chatapp ook wordt gebruikt voor het lastigvallen van mensen, het versturen van (al dan niet illegaal) seksueel of gewelddadig materiaal en desinformatie, en dat je daar ook moet tegen optreden. 'Mensen toelaten om misbruik te melden is geen privacyschending,' stelt Stamos.

Metadata voor AI

Wel is er een tweede systeem actief dat wel proactief en op basis van AI scant, maar hier gaat het wel enkel om metadata. Het gaat dan om zaken als het telefoonnummer, naar wie berichten worden verstuurd, vanaf welk toestel en IP-adres, maar ook het batterijniveau en netwerksignaal worden daarbij geanalyseerd. Dat moet helpen om patronen te herkennen, bijvoorbeeld om spamaccounts snel te detecteren.

Perfect loopt dat niet. Uit de gesprekken met moderatoren leert ProPublica dat de AI-systemen regelmatig onschuldige zaken als schadelijk aanduidde, of dat er te weinig talenkennis aanwezig was om berichten te beoordelen en dat automatische vertaling regelmatig de mist in gaat. Maar dat WhatsApp haar berichten encrypteert, vloekt niet met het systeem waarbij gebruikers chatgesprekken kunnen rapporteren en daarbij een specifiek stuk van de chat doorsturen naar WhatsApp.

In een uitgebreid artikel beschrijft ProPublica dat WhatsApp al enkele jaren uitpakt met encryptie en daarbij zegt dat het bedrijf geen berichten, foto's of andere inhoud in gesprekken kan inkijken. Maar tegelijk heeft het bedrijf wel meer dan duizend mensen in dienst (via Accenture in onderaanneming) om berichten op WhatsApp te monitoren. Dat strookt volgens de site niet met de beweringen rond encryptie.Maar de praktijk is een stuk genuanceerder. Zo krijgen de moderatoren voor WhatsApp pas berichten te zien als een van de chatters een gesprek rapporteert. Op dat moment wordt het gerapporteerde bericht plus de vier voorafgaande berichten (en eventuele foto's of video's) gedeeld met WhatsApp. Daarbij krijg je als gebruiker ook expliciet de melding dat een kort deel van de chat zal worden doorgestuurd naar WhatsApp.ProPublica sprak met zo'n 29 huidige en voormalige moderatoren voor WhatsApp en dat geeft wel een interessante inkijk in de werking. Zo krijgen de moderatoren tot zeshonderd meldingen per dag, minder dan één minuut per rapportering, waarvan ze moeten aangeven of een rapportering terecht is en de gebruiker al dan niet verder wordt onderzocht of een ban krijgt. Maar verdere details over de identiteit van de chatters of andere metadata zit daar niet in.Ook Alex Stamos, voormalig hoofd security bij Facebook en doorgaans kritisch voor het bedrijf, merkt op dat het een balans is die je moet hanteren. Hij merkt op dat een populaire chatapp ook wordt gebruikt voor het lastigvallen van mensen, het versturen van (al dan niet illegaal) seksueel of gewelddadig materiaal en desinformatie, en dat je daar ook moet tegen optreden. 'Mensen toelaten om misbruik te melden is geen privacyschending,' stelt Stamos.Wel is er een tweede systeem actief dat wel proactief en op basis van AI scant, maar hier gaat het wel enkel om metadata. Het gaat dan om zaken als het telefoonnummer, naar wie berichten worden verstuurd, vanaf welk toestel en IP-adres, maar ook het batterijniveau en netwerksignaal worden daarbij geanalyseerd. Dat moet helpen om patronen te herkennen, bijvoorbeeld om spamaccounts snel te detecteren.Perfect loopt dat niet. Uit de gesprekken met moderatoren leert ProPublica dat de AI-systemen regelmatig onschuldige zaken als schadelijk aanduidde, of dat er te weinig talenkennis aanwezig was om berichten te beoordelen en dat automatische vertaling regelmatig de mist in gaat. Maar dat WhatsApp haar berichten encrypteert, vloekt niet met het systeem waarbij gebruikers chatgesprekken kunnen rapporteren en daarbij een specifiek stuk van de chat doorsturen naar WhatsApp.