De database van een ‘AI Girlfriend’ website is gehackt. Naast echte namen en accounts, circuleren ook de fantasieën en beschrijvingen van gebruikers. Ook kindermisbruik en incest worden daarbij niet geschuwd.
Muah.ai is een site waar je met een virtuele vriendin kan chatten. Waar veel AI chatbots geen seksueel getinte inhoud toelaten, of slechts in zeer beperkte vorm, profileert Muah.ai zich als een ongecensureerde omgeving waar je zelf je virtuele partner kan beschrijven, inclusief leeftijd, uiterlijke kenmerken en seksueel gedrag.
404 Media ontdekte dat de site het slachtoffer werd van een hacker die een database heeft gestolen die de interacties van gebruikers met hun chatbot bevat. Maar die chatberichten zijn ook gelinkt aan de mailadressen van de gebruikers en in veel gevallen bevatten zowel het mailadres als de chat verwijzingen naar hun echte namen.
De hacker vertelt over zijn inbraak tegenover 404 Media en zegt dat de site weinig meer is dan een hoop aan elkaar gekoppelde open source projecten waar hij snel een aantal zwakke plekken in kon vinden. De beheerder van de site, die enkel gekend staat als ‘Harvard Dan’ zegt aan de nieuwssite dat de hack is gebeurd door een concurrent om financiële redenen, al werd dat niet bewezen.
Virtuele minderjarigen
De hack zou ook aantonen dat de seksueel getinte gesprekken niet beperkt blijven tot wat legaal is toegelaten. Bepaalde chats gaan expliciet over minderjarigen, inclusief kleuters, en incest met jonge kinderen. Zulke bots kunnen ook gedeeld worden met andere gebruikers. Die bots genereren op hun beurt antwoorden of gesprekken die seksueel expliciet kunnen zijn. Ook kunnen er AI-beelden worden gegenereerd, al is het niet duidelijk hoe vaak dat is en of die beelden ook werden verzameld door de hacker of bewaard door de site.
De beheerder van de site beweert wel dat er moderatie gebeurt en dat alle aangemaakte chatbots die zich voordoen als minderjarigen worden verwijderd, zowel op het platform als op Discord of Reddit.
De beheerder van de site weet sinds vorige week van de hack en waarschuwde op Discord, met de opmerking dat chatgesprekken nooit worden bewaard. Ook wie een account aanmaakt op Muah.ai leest dat alles geëncrypteerd is. Maar 404 Media merkt op dat de database die het kon inkijken wel degelijk bepaalde seksuele voorkeuren bevat.
Fout opgemerkt of meer nieuws? Meld het hier