Onderzoekers van de universiteit van Zurich lieten onaangekondigd AI-bots los op een subforum van het online platform dat zich specialiseert in gevoelige debatten. De onderzoekers zijn verbannen en Reddit denkt erover de zaak voor de rechter brengen.
De universiteit van Zurich heeft aangegeven dat zijn onderzoekers in de voorbije maanden miljoenen Reddit-gebruikers hebben gemanipuleerd via kunstmatige intelligentie. De universiteit heeft het bedrog opgebiecht aan het forum zelf en zegt dat de onderzoekers de regels hebben overtreden.
‘In de voorbije maanden hebben we verschillende accounts gebruikt om postjes te publiceren op het ChangeMyView subforum op Reddit,’ schrijven de onderzoekers van de universiteit. ‘Ons experiment wilde de overredingskracht van llm’s bekijken in een ethisch scenario, waarbij mensen vragen om argumenten te geven tegen bepaalde meningen die ze hebben.’ In de praktijk lieten onderzoekers AI argumenten schrijven, en lazen ze die na voordat ze werden gepost. Ze deden dat specifiek in r/changemyview, een subforum dat draait rond debatten van vaak gevoelige aard. Op die manier wilden ze checken of AI iemand van gedacht kon doen veranderen. De onderzoekers verontschuldigen zich voor het breken van Reddits regels rond AI-gebruik, maar zeggen er wel bij dat ze het onderzoek zien als cruciaal, en dat ze het belangrijk vonden om de studie te doen, ongeacht de regels.
Tijdens de studie nam de AI onder meer het profiel aan van iemand die slachtoffer was van een verkrachting, en van een zwarte man die tegenstander was van de Black Lives Matter beweging. Moderatoren van ChangeMyView zeggen dat het om een ernstige ethische schending gaat. Reddit zelf bekijkt of het klacht tegen de onderzoekers wil indienen.
Fout opgemerkt of meer nieuws? Meld het hier