In een lang betoog haalt een voormalig data scientist bij Facebook aan dat het bedrijf veel te weinig doet om politieke conflicten met valse accounts aan te pakken. Te veel incidenten, te weinig middelen en te veel verantwoordelijkheid voor een handvol personen.
Sophie Zhang schreef een zeer uitgebreide interne memo op haar laatste werkdag. Buzzfeed kon die inkijken en publiceerde grote delen van de tekst. Ze werkte voor het Facebook Site Integrity fake engagement team en geeft een opmerkelijk inzicht in het werk van iemand die als taak heeft om verdachte activiteit op het sociaal netwerk te identificeren.
In het kort komt het er op neer dat Facebook veel te weinig doet om politieke manipulatie op het platform tegen te gaan. Het gaat dan niet noodzakelijk om politici die leugens verspreiden, maar wel pogingen om boodschappen te verspreiden via fake accounts, of om politieke tegenstanders massaal te hinderen.
“In de drie jaar bij Facebook heb ik meerdere flagrante pogingen gezien van buitenlandse overheden om ons platform te misbruiken op grote schaal om hun eigen burgers te misleiden,” schrijft ze. Daarbij haalt ze ook aan dat ze zelf beslissingen moest nemen die invloed hebben gehad op presidenten en prominente politici in verschillende landen.
Van Italië tot India
De incidenten lopen letterlijk de wereld rond. Zo ontdekte Zhang duizenden verdachte accounts die op Facebook de oppositie in Azerbeidzjan hekelden. Maar Facebook reageerde pas een jaar na haar interne melding.
In Honduras werden valse accounts ingezet ten voordele van de huidige president, om interacties te vergroten en inhoud te verspreiden. Zhang legde de connectie al snel omdat honderden van die accounts werden aangestuurd door de beheerder van de facebookpagina van de president. Ook hier duurde het negen maanden voor Facebook actie ondernam, maar de valse accounts blijven terugkeren.
De lijst met landen en conflicten waarbij Facebook een rol speelde in het beïnvloeden van de publieke opinie, of het desinformeren op grote schaal, is lang. Oekraïne, Italië, Brazillië, Bolivië, Equador, India…
Zhang benadrukt dat Facebook niet zozeer van slechte wil is. Maar dat er vaak een gebrek aan middelen is, en dat het bedrijf de neiging heeft om te focussen op activiteiten die het imago van Facebook in gevaar brengen.
Focus op het Westen
Een reden van de vaak lakse aanpak van Facebook is dat er simpelweg grotere problemen zijn. Nadat bleek dat Facebook in de VS een grote rol speelde in het ronselen van stemmen voor Donald Trump, iets wat Facebook aanvankelijk ontkende, ondernam het netwerk wel meer om manipulatie, valse accounts en fake news aan te pakken. Maar volgens Zhang ligt de focus daarbij sterk op de VS en West-Europa.
Ook haalt ze aan dat ze als data scientist zonder veel controle moest beslissen welke actie er werd genomen. “Er was zoveel schadelijk gedrag wereldwijd dat het aan mij persoonlijk lag welke gevallen verder werden onderzocht, om er opdrachten van te maken en het te laten escaleren met prioriteit,” schrijft ze.
“Een manager van Strategic Response grapte dat het merendeel van de wereld buiten het Westen effectief het Wilde Westen is, met mezelf als deeltijds dictator. Dat was bedoeld als een compliment, maar het illustreert de enorme druk op mij.”
Te weinig middelen
Ook dat intern aankaarten was soms lastig. Zo lag de focus bij Facebook ook vaak op het tegengaan van spamberichten. Die zijn veel groter in omvang waardoor politieke manipulatie in kleinere of armere landen minder snel prioriteit krijgt. Zo zegt Zhang zelf dat de beste manier om een situatie onder de aandacht krijgen niet was om het via de gepaste kanalen te signaleren. Maar wel om het op Workplace, Facebook’s interne berichtendienst, te plaatsen voor alle medewerkers.
“Op kantoor besefte ik dat mijn standpunt niet werd gerespecteerd tenzij ik met als een arrogante eikel gedroeg.”
Zhang is begripvol voor Facebook en nuanceert ook dat het bedrijf veel doet. Maar ze benadrukt ook dat ze regelmatig de boodschap kreeg dat de human resources beperkt zijn om alles overal aan te pakken.
“Facebook projecteert naar buiten toe het imago dat het sterk en competent is (…) Maar de realiteit is dat veel van onze acties haastig en chaotisch.” Aldus de voormalige medewerkster van Facebook.
Fout opgemerkt of meer nieuws? Meld het hier