De Britse telecomwaakhond Ofcom heeft een ‘formeel onderzoek’ geopend naar het sociale netwerk X ‘met betrekking tot seksueel getinte beelden die zijn verspreid’ door zijn AI-assistent Grok. Dat meldt Ofcom in een verklaring.
‘Er zijn zeer verontrustende meldingen dat Grok wordt gebruikt om naaktfoto’s van personen te maken en te delen – wat een schending van de eerbaarheid of pornografie kan vormen – net als seksueel getinte afbeeldingen van kinderen die kinderpornografie kunnen vormen’, klinkt het.
Ofcom wil nagaan of X zich houdt aan de Online Safety Act. Die bepaalt dat socialemediaplatformen de veiligheid van de gebruikers moet waarborgen. De regulator heeft de macht om platformen boetes op te leggen of te blokkeren. In een eerste stap zal de waakhond de verzamelde bewijzen analyseren en een voorlopige beslissing nemen.
Als de regulator vaststelt dat Grok zich niet aan de wet houdt, kan Ofcom X een boete opleggen van maximaal 10 procent van zijn wereldwijde omzet of 18 miljoen pond, bericht BBC.
Chatbot Grok genereert duizenden seksueel getinte beelden per uur
De Britse regering had er eerder al mee gedreigd X te blokkeren wegens de seksueel getinte beelden van vrouwen en kinderen van Grok. De X-chatbot genereert massaal afbeeldingen van mensen die, zonder hun toestemming, door AI zijn uitgekleed. Onderzoek wees uit dat het om duizenden seksueel getinte beelden per uur gaat.
De Britse minister van Economische Zaken Peter Kyle verklaarde maandag op Times Radio dat de regering ‘zeker’ zou overwegen om X te blokkeren, maar dat de wet bepaalt dat ministers de regulator zijn werk moeten laten doen. Een Britse waakhond die onlinekindermisbruik opspoort, zegt dat het op het darkweb al illegale afbeelden heeft aangetroffen die door Grok zijn gegenereerd en geseksualiseerde jonge meisjes tonen.