Elon Musks chatbot Grok genereert ongeveer 6.700 afbeeldingen per uur van mensen die, zonder hun toestemming, door AI zijn uitgekleed. Dat blijkt uit onderzoek van een deepfake-onderzoeker. De vijf websites die daarna het vaakst worden gebruikt voor dergelijke verzoeken, genereren gemiddeld 79 beelden per uur.
Sinds eind december kunnen gebruikers van Musks platform X via Grok een afbeelding laten bewerken. Dat leidde de afgelopen week al tot ophef. Grok vervangt op verzoek bijvoorbeeld kleren van mensen door een bikini. Ook zijn er klachten dat Grok seksueel getinte afbeeldingen van minderjarigen genereert.
Weinig beperkingen
De schaal van deepfakes op X is ‘ongekend’, zei een advocaat gespecialiseerd in onlinezedendelicten tegen persbureau Bloomberg. Naar schatting zou 85 procent van de beelden die Grok genereert, zijn geseksualiseerd.
In tegenstelling tot andere bekende chatbots legt Grok weinig beperkingen op aan gebruikers, aldus specialisten. Dat geldt onder meer voor het generen van seksueel getinte beelden. Elon Musk heeft Grok dan ook in de markt gezet als ‘leuker’ en ‘brutaler’ dan andere chatbots.
Frankrijk en Maleisië hebben een onderzoek ingesteld naar Grok. De Britse toezichthouder Ofcom heeft Musk om uitleg gevraagd hoe het kan dat Grok mensen uitkleedt. Ook de Europese Commissie kijkt ‘zeer serieus’ naar klachten over de chatbot. ‘Dit is illegaal. Dit is afschuwelijk’, zei een woordvoerder van de commissie maandag.
AI-chatbot Grok is ontwikkeld door xAI, een bedrijf van Musk. De onderneming stelde dinsdag 20 miljard dollar aan investeringen te hebben opgehaald. Onder meer Nvidia en het staatsinvesteringsfonds van Qatar deden mee aan de investeringsronde. Nvidia is wereldwijd de belangrijkste ontwikkelaar van chips voor kunstmatige intelligentie. xAI maakt zelf gebruik van de processors van Nvidia voor het trainen van de AI-modellen.