Een digitaal lief is een privacy-nachtmerrie. Dat moet blijken uit analyse van Mozilla. De chatbots zouden vooral op zoek zijn naar data om door te verkopen.
Een romantische chatbot gebruikt AI om gesprekken te simuleren, alsof je met een lief of een goeie vriend praat. Ze hebben namen als Replika, Chai en Eva, en sinds de opkomst van ChatGPT en andere geavanceerde Gen AI-software schieten ze als paddenstoelen uit de grond. En dat gaat vooral ten koste van je privacy, zo schrijft Mozilla na onderzoek.
Het onderzoeksteam van de organisatie analyseerde elf populaire romantische chatbots, die samen zo’n 100 miljoen keer werden gedownload. Uit het rapport moet blijken dat de chatbots veel meer informatie bijhouden dan ‘normaal’ is voor een app. Dat kan je misschien verwachten, gezien de gesprekken die dit type robot simuleert net van het intieme soort zijn. Maar de bedrijven erachter doen vervolgens veel te weinig om die data te beveiligen, schrijft Mozilla.
Weinig security
Van de elf onderzochte chatbots haalden er tien niet de minimum beveiligingsstandaarden die het onderzoeksteam voorop stelde. Zo zijn er bots die alle tekst, foto’s en video’s die een gebruiker op zijn smartphone ingeeft registreren. De meerderheid laat ook zeer zwakke wachtwoorden toe, waardoor de accounts makkelijker gehackt kunnen worden. Ook trackers zijn veel voorkomend. Op de Romantic AI app alleen al telden de onderzoekers 24.354 trackers in een minuut. 90% van de chatbots hadden bovendien geen voorzieningen voor opt-outs om je data niet te gebruiken voor het verder trainen van het model. Zelfs privacy statements waren vaak onvolledig of helemaal vermist.
Een en ander is extra vervelend omdat AI chatbots vaak worden aangeprezen als een manier om beter te leren omgaan met je gevoelens of zelfs je mentale gezondheid. Dat is voor alle duidelijkheid momenteel geen goed idee. Vorig jaar werd een chatrobot bijvoorbeeld al gelinkt aan een tragische zelfmoord.
Maar daarnaast blijkt ook dat veel van deze apps vooral op de markt komen als ‘data harvesters’, en niet zozeer als een verfijnde en verantwoorde simulatie van menselijk contact. De kans is dus heel erg groot dat als jij je hart opent tegenover een digitaal lief, die informatie meteen wordt doorgestuurd naar adverteerders en de servers van de robot zelf. ‘Zeg niets tegen een AI-vriend waarvan je niet zou willen dat een neef of collega het kan lezen’, aldus nog het rapport.
Fout opgemerkt of meer nieuws? Meld het hier