Elon Musks chatbot Grok krijgt wereldwijd steeds meer kritiek om seksueel getinte afbeeldingen die door AI zijn gemaakt, ook van minderjarigen.
De Maleisische autoriteiten verklaarden het voorbije weekend dat ze de door Grok geproduceerde afbeeldingen onderzoeken na klachten. Frankrijk beschuldigde Grok vrijdag al van het genereren van ‘duidelijk illegale’ seksuele inhoud. Ook de overheid van India heeft gereageerd.
De laatste tijd zijn er veel meldingen van mensen die Grok vragen om afbeeldingen van vrouwen en kinderen in een seksuele context te vervormen, bijvoorbeeld door te vragen of Grok een persoon op een foto in een bikini kan weergeven. Door de nauwe verwevenheid tussen Grok en X, dat eveneens in handen is van Musk, worden deze afbeeldingen ook veel op dat socialemediaplatform geplaatst.
Juridische stappen
Volgens de Maleisische wet is het creëren of verspreiden van onfatsoenlijke inhoud verboden. De autoriteiten in het land zeggen ook X-gebruikers te onderzoeken die deze wet mogelijk hebben overtreden.
De Franse regering verklaarde dat de afbeeldingen van Grok mogelijk ook in strijd zijn met de Europese Digital Services Act. Die vereist dat grote platforms het risico van verspreiding van illegale inhoud beperken.
India heeft X dan weer opgedragen binnen 72 uur een rapport in te dienen over genomen maatregelen om foute afbeeldingen te voorkomen. Daarbij waarschuwde het land voor mogelijke juridische stappen.
Grok heeft inmiddels laten weten de aanstootgevende beelden te zullen verwijderen. ‘We hebben tekortkomingen in de beveiliging geïdentificeerd en zijn deze met spoed aan het verhelpen.’