Grote technologiebedrijven groeien in macht, en dat bedreigt onze democratie. Dat is de boodschap van filosofe en statistica dr. Annette Zimmermann tijdens een event van Publix, de Berlijnse innovatiehub voor technologie, media en maatschappelijke betrokkenheid. Onder de titel ‘The Prompt, The Press, and The Public Square’ roept ze op tot meer kritische betrokkenheid van burgers, journalisten en civil society.
‘De publieke ruimte is geen speelterrein voor tech-miljardairs’, stelt Zimmermann tijdens haar keynote op de Publix-bühne. De wetenschapster van de University of Wisconsin-Madison onderzoekt hoe we data en statistische modellen begrijpen en interpreteren. Daarbij kijkt ze ook naar de ethische en filosofische kanten van data-analyse.
Volgens haar leiden de snelle technologische innovaties vaak tot onbedoelde risico’s. ‘Systematische bias, hypersurveillance en een toenemende concentratie van invloed in media en data zijn hier goede voorbeelden van. Bovendien zorgen de enorme datacenters voor milieuschade, terwijl data-annotators vaak onder uitermate slechte omstandigheden werken en soms amper twee dollar per dag verdienen.’
En zelfs AI-toepassingen die op het eerste zich onschuldig lijken, kunnen bijdragen aan een cultuur van toezicht en manipulatie. Zimmermann verwijst naar het voorbeeld van het AI‑startupbedrijf Friend. ‘Zij promoten AI-vrienden op straat, terwijl de tool in werkelijkheid voortdurend de omgeving van gebruikers monitort.’ Ook de pop-up Thinking Caps van het Amerikaanse AI-bedrijf Anthropic in New York presenteren artificiële intelligentie als vriendelijke begeleider. ‘Maar tegelijkertijd normaliseren ze subtiel dat gebruikers constant worden gevolgd.’ Alleen omdat iets kan, betekent dus nog niet dat het ook moet of wenselijk is.
‘Silicon Valley bepaalt publieke debatten’
De onderzoekster wijst verder op de ideologische kant van Silicon Valley: tech-oligarchen die vrijheid en democratie als obstakels zien en hun macht inzetten om publieke debatten te sturen.
‘Denk maar aan PayPal-oprichter Peter Thiel, die in het verleden al openlijk stelde dat democratie en kapitalisme niet altijd samengaan. Of aan durfkapitalist Marc Andreessen, die stelt dat het afremmen van AI ‘doden kost’ en dat innovatie een ‘morele verplichting’ is’, aldus de academica. Daarnaast wijst ze op Larry Ellison, die via Oracle (hij is de CEO), TikTok-deals, zijn invloed op Paramount Pictures en CBS News én zijn nauwe band met Amerikaans president Donald Trump aanzienlijke impact heeft op publieke debatten.
Zimmermann benadrukt dat burgers en tussenpersonen zoals vakbonden, journalisten en civiele organisaties een sleutelrol spelen om het evenwicht te bewaren. ‘We moeten mensen bereiken die denken dat ze te weinig expertise hebben. Ook zonder technische achtergrond kan je waardevolle morele oordelen vellen, bijvoorbeeld over extreme surveillance in je omgeving. Veel ‘leken’ hebben wel degelijk iets te zeggen over AI en over hoe we macht verdelen.’
De Amerikaanse onderzoekster pleit dan ook voor een breed maatschappelijk engagement vanuit de politiek en de media. ‘We moeten mensen informeren, machtsconcentraties in de gaten houden en kritisch verslag doen over de ideologische agenda van tech-oligarchen.’
Inzicht in AI-algoritmes
Volgens Zimmermann is het doel niet om de technologie te stoppen. ‘Het gaat erom een publieke ruimte en democratie te behouden, waarin burgers nog steeds zeggenschap hebben over hoe AI en tech worden gebruikt.’
Vaak wordt er over AI geschreven, zonder dat journalisten of beleidsmakers ook uitleggen hoe die tools functioneren of wat ze betekenen voor je privacy. ‘Tijdens een hoorzitting in het Amerikaanse congres op 16 mei 2023 kreeg OpenAI-CEO Sam Altman bijvoorbeeld nauwelijks kritische vragen over mogelijke risico’s. In plaats daarvan werd hem gevraagd welke experts geschikt zouden zijn om AI-beleid uit te voeren’, illustreert ze. Volgens Zimmermann is dit een zorgwekkend teken van zelfonthechting, of self-disenfranchisement van de democratische controle.
‘Maar zonder meer inzicht in deze complexe materie kunnen burgers en maatschappelijke organisaties de democratie nauwelijks beschermen tegen geconcentreerde macht.’