Facebook heeft toegegeven dat het meer moet doen om schadelijke content sneller te detecteren en te verwijderen. Het bedrijf legt uit waarom de zaak zo complex is.
Op het Amerikaanse South by Southwest-evenement sprak Brian Fishman, Facebooks leidinggevende manager voor anti-terrorismemaatregelen. Fishman beseft naar eigen zeggen dat overheden van over de hele wereld Facebook momenteel onder de microscoop leggen wat terrorismebestrijding betreft.
Mensen en AI
Momenteel bestaat Facebooks aanpak uit een combinatie van AI-algoritmes en gezond menselijk verstand. Al staat de toepassing van AI nog in de kinderschoenen. Momenteel kan software al controversiële afbeeldingen gelinkt aan terrorisme herkennen, en daarnaast worden neurale netwerken ook getraind om geschreven teksten die schadelijk zijn, te herkennen.
Daarnaast kan AI op Facebook herkennen wanneer een gebruiker die eerder verbannen werd, een nieuw account probeert aan te maken. Op termijn hoopt Facebook die functionaliteit ook onder meer op Instagram te kunnen lanceren.
Moeilijke nuance
Toch benadrukt Fishman dat terrorismebestrijding niet evenredig gaat met het loslaten van een aantal agressieve algoritmes. “Hoewel algoritmes een heel belangrijke toevoeging zijn, is er toch enige nuance nodig. Eén van de afwegingen bestaat eruit dat we wel degelijk op een agressieve manier content willen blokkeren, maar anderzijds is het belangrijk dat onze gebruikers nog steeds over controversiële onderwerpen kunnen praten op Facebook.”
“Voor dergelijke genuanceerde beslissingen zijn er mensen nodig”, besluit de antiterrorisme-manager. Recent kondigde het bedrijf aan dat het 10.000 nieuwe mensen aanwerft om haatberichten aan te pakken. Toch zijn er volgens Fishman nog meer inspanningen nodig.
Verhoogde politieke druk
Duitsland heeft begin dit jaar al strengere regels aangekondigd voor sociale media omtrent het verwijderen van schadelijke content. Het land wil sancties uitdelen voor content die te laat is verwijderd. Ook in Frankrijk zit er een nieuwe regelgeving in de pijplijn die strenger tegen nepnieuws wil optreden.
Het Verenigd-Koninkrijk heeft dan weer een eigen tool ontwikkeld die veel efficiënter claimt te zijn dan de huidige technieken die Facebook toepast bij het verwijderen van kwaadaardige content. De Britse overheid legt trots de cijfers op tafel, en dringt aan op meer dialoog met sociale netwerken. Het Verenigd-Koninkrijk overweegt om Facebook te verplichten om van haar software gebruik te maken.
