‘Het probleem zit hem in de algoritmes die je proberen te manipuleren’

Lange tijd was hij roepende in de woestijn, maar langzaam komt men tot inzicht: Jaron Lanier had misschien wel gelijk toen hij waarschuwde dat sociale media gevaarlijk zijn, voor het individu en de maatschappij als geheel. ‘We hadden er nooit aan moeten beginnen.’

“Mensen vragen me wel eens of ik het erg vind dat mijn ideeën mainstream aan het worden zijn”, zegt Jaron Lanier, virtual reality-pionier, muzikant en artiest. “Ze zien me liever als radicaal persoon.” Lange tijd was Lanier precies dat: radicaal. In 1984 startte hij een bedrijfje dat commerciële toepassingen bedacht voor virtual reality, lang voordat anderen daar überhaupt van gehoord hadden (het bedrijf ging in 1993 failliet). In zijn nieuwe boek ’10 arguments for deleting your social media accounts right now’ beschrijft hij hoe hij met een groepje vrienden eind jaren ’90 een programma schreef waarmee u iemands gezichtsuitdrukkingen digitaal kon integreren in een tekening of andere foto. Er zijn tal van grote en kleine Silicon Valley-bedrijven die daar vandaag, in 2018, mee proberen te scoren. En Lanier is al een flinke tijd, zeker sinds de opkomst van bedrijven als Google en Facebook, kritisch over waar het internet naartoe gaat. “Het probleem is niet dat je een connectie maakt met vrienden en het probleem is niet dat je continu een apparaatje bij je draagt. Het probleem zit ‘m specifiek in de algoritmes die je achter de schermen proberen te manipuleren. Dat is de enige manier waarop Facebook en Google geld kunnen verdienen.”

Is het achteraf gezien niet logisch dat Facebook en Google het adverteerdersmodel hanteren? Geld verdienen aan de hand van advertenties is niet bepaald nieuw.

JARON LANIER: Je kan het oude advertentiemodel, waarbij adverteerders je in de krant of op tv iets laten zien om te proberen je te overhalen dat te kopen, niet vergelijken met het huidige model. Op sociale media sta je continu onder surveillance en die wordt tegen je gebruikt om je te manipuleren. Je zit gevangen in een geïndividualiseerde feedbackloop, waarbij al jouw handelingen vastgelegd en gebruikt worden om je je gedrag te laten aanpassen. Dat is wezenlijk anders dan vroeger, en het is gevaarlijk. Ik spreek daarom niet meer van adverteerders maar van manipulators.

In uw boek geeft u toe spijt te hebben dat u en andere internetpioniers niet meer aandacht schonken aan de architectuur van het web.

JARON LANIER: Dat klopt. het internet werd eind jaren ’80, begin ’90, gebouwd. Wij, de bouwers, lieten expres bepaalde functies liggen. Onze ideologie was dat het beter was om private bedrijven de resterende stukken te laten invullen, in plaats van die zelf te bouwen. Dan kan je denken aan het feit dat je je niet als mens kunt identificeren in de basisstructuur van het internet, alleen met een nummer van je computer (dat is geen persoonlijk nummer, want als u met een ander toestel het internet op gaat, krijgt u een ander nummer, nvdr.) Een andere lacune is dat we geen mogelijkheid gaven tot het herleiden van waar informatie vandaan kwam. Er waren geen backlinks in de basisstructuur van het internet. Dat was een enorm cadeau aan private bedrijven: Google’s eerste zoekalgoritmes dreven op backlinks. Facebook is de manier geworden waarop mensen zich als persoon identificeren. Maar het was een gigantische fout dat we die dingen, waarvan we wisten dat ze noodzakelijk zouden zijn, niet ingebouwd hebben. Die zaken hadden een publiek goed moeten zijn. In plaats daarvan hebben een paar monopolisten reusachtige systemen opgebouwd, die nu misbruikt worden als surveillance-apparaten.

Een van uw argumenten om je accounts te verwijderen is dat sociale media de neiging hebben je een klootzak te maken. In uw boek beschrijft u hoe u in de jaren ’70 door een verre voorloper van sociale media (met de naam Usenet) kennis maakte met uw innerlijke troll. Maakte die ervaring u voorzichtig toen sociale media groot werden?

JARON LANIER: Ik haalde mijn vroege ervaringen met mijn innerlijke troll aan, om te laten zien dat Facebook of Twitter niet de persoonlijkheidsstoornis van het trollen hebben gecreëerd. Het is een merkwaardig effect van het online design. Maar helaas hebben Facebook, Google en Twitter dat effect vertaald in commerciële waarde. Als mensen geïrriteerd en boos zijn, blijven ze langer online. Bedrijven noemen dat engagement, ik noem het verslaving. En die verslaving wordt aangewakkerd met zowel positieve als negatieve beloningen, maar de negatieve zijn intenser. Deze bedrijven hebben van dat verschrikkelijke fenomeen dat ik decennia geleden al ervoer iets gemaakt waar geld mee te verdienen valt, terwijl het iets is dat we als maatschappij zouden moeten vermijden.

U zegt ook dat sociale media bepaalde activistische stromingen in eerste instantie kunnen helpen, maar uiteindelijk meer negatieve dan positieve consequenties hebben. Kunt u dat in het licht van de Me Too-beweging uitleggen?

JARON LANIER: Wat ik keer op keer zie gebeuren is dit: een sociale beweging gebruikt sociale media om een bepaalde verbetering te bewerkstelligen. Activisten werken met ontzettende eerlijkheid en behalen positieve doelen. Een paar jaar later krijgen verschrikkelijke mensen, die alleen maar willen ontwrichten, of die werken voor een vijandige buitenlandse staat, of wie dan ook, plotseling meer macht van de sociale media dan de oorspronkelijke ‘goede’ mensen. Een voorbeeld is de Arabische Lente. Eerst werkte sociale media in het voordeel van de activisten, jaren later plukte IS er de vruchten van. In de VS gebeurde hetzelfde met Black Lives Matter. In eerste instantie een zegen voor de activisten, maar inmiddels zien we een opleving van witte racisten zoals we dat al een hele tijd niet gezien hadden.

Hoe kan zoiets gebeuren? Omdat er achter de schermen algoritmen aan het werk zijn. Die hebben geen morele of ethische richting. Ze nemen slechts data in van talloze gebruikers, en zetten die data in om een bepaalde output (engagement) te maximaliseren. In de eerste golf zijn dat de ‘goede’ mensen, die door het algoritme met elkaar in contact gebracht worden. Op een gegeven moment vindt zo’n algoritme gebruikers waar bepaalde content juist weerzin opwekt. Negatieve gevoelens zijn veel sterker dan positieve. De anti-activisten hebben een veel sterker engagement met de content, dus het algoritme beweegt snel die kant op om dat engagement te maximaliseren. Het brengt nazi’s met andere nazi’s in contact. En voor je het weet, is het algoritme niet meer gefocust op de goede mensen. Het gaat zich optimaliseren voor verschrikkelijke dingen. Het is een vreemde machine die van goede dingen slechte maakt. Wat Me Too betreft: laten we het de komende twee jaar in de gaten houden. Als mijn theorie klopt, dan gaan we rond die tijd een terugslag zien.

In het voorwoord zegt u dat u mensen wilt helpen een kat te zijn. Heel anders dan een hond, die door de mens getemd is tot huisdier, heeft de huiskat nog een eigen wil. Door sociale media accounts te verwijderen, houden we onze eigen identiteit en worden we niet getemd door de tech-industrie. Kun je niet een kat zijn door bewust met sociale media om te gaan?

JARON LANIER: (lacht) Dat is een goede vraag. Ik schrijf meerdere keren dat ik het leven van een ander niet ken. Het is mogelijk dat iemand een hele goede en evenwichtige reden heeft om een account aan te houden. Het is niet aan mij om daarover te oordelen. Wat ik uiteindelijk concludeer is dat om een kat te kunnen zijn, je jezelf goed moet kennen. En wie weet helpt het om voor zes maanden al je accounts op te zeggen en te zien wat dat doet met je leven. Als je het na zes maanden verschrikkelijk vond, kan je altijd weer een account aanmaken.

Het viel me op dat u een bedrijf als Amazon niet onder de ergste boosdoeners schaart. Ik had een tijdje een Prime-account, en merkte dat ik ontzettend veel dingen kocht. Ik moest mijn abonnement opzeggen om mijn portemonnee te beschermen.

LANIER: Het is goed mogelijk dat ik Amazon minder kritiek geef dan ze verdienen. Maar uiteindelijk is het verdienmodel van Amazon duidelijk: jij bent de klant. Misschien manipuleren ze je wel om meer te kopen, maar er is een fundamentele eerlijkheid in hun manier van werken. Jij bent degene die hen betaalt. Voor Facebook en Google ben jij absoluut niet de klant, maar het product. Daarmee zeg ik niet dat Amazon of Apple of Microsoft geen kritiek verdienen, maar het is bij die partijen makkelijk je bewust te zijn van wat er gaande is. Je bent je bewust dat je gemanipuleerd wordt, en dat is toch wel beter dan je er niet bewust van te zijn. Ze zijn niet zo gluiperig en kwaadaardig als Google en Facebook.

Welke accounts zouden we best verwijderen?

JARON LANIER: Google, Facebook, Twitter, en alles wat daaraan verwant is. Dus ook YouTube, Instagram, Messenger en Whatsapp. Reddit mogelijk ook.

Netflix en Spotify kunnen we houden?

JARON LANIER: Als jij een bedrijf betaalt voor een product of dienst, ben je hun klant. Dan heb je iets meer macht en is er iets meer afstemming van belangen. Het is in het belang van Netflix dat jij hen blijft betalen. Er is een oprechte relatie, niet een van mind control op massale schaal.