Meta heeft een probleem opgelost waarbij het mogelijk was om in AI chatbot prompts en AI-gegenereerde antwoorden van andere gebruikers op te vragen.
De fout was mogelijk omdat je met Meta AI als ingelogde gebruiker oude prompts kan bewerken om nieuwe dingen te genereren. Daarbij krijgt elke aanvraag een een uniek nummer.
Securityonderzoeker Sandeep Hodkasia, oprichter van securitybedrijf AppSecure, merkte dat op, vertelt hij aan Techcrunch. Hij kon door analyse van netwerkverkeer achterhalen hoe dat uniek nummer moest worden aangepast, om zo als gebruiker andermans prompt en de AI-gegenereerde antwoorden daarop te krijgen.
De fout werd al op 26 december vorig jaar gemeld aan Meta. Het bedrijf rolde op 24 januari van dit jaar een oplossing uit. Voor zover bekend werd de bug niet actief misbruikt. Hodkasia kreeg van Meta ook 10.000 dollar als bug bounty. Het bedrijf bevestigt de fout, maar zegt dat ze niet actief werd misbruikt.
Meerdere privacyproblemen
Het probleem is een herinnering aan het feit dat genAI relatief nieuwe technologie is waarbij je als gebruiker niet zeker weet hoe of waar je gegevens worden verwerkt en bewaard. Voor een occasionele vraag of gegenereerde afbeelding is dat geen ramp, maar mensen delen ook persoonlijke details of intieme vragen met dergelijke systemen. Iemands chatgeschiedenis kan op dat vlak meer gevoeligheden bevatten dan pakweg iemands zoekopdrachten op Google.
In het geval van Meta komt daar bij dat het bedrijf het nooit echt nauw neemt met privacy. In haar meer dan twintigjarig bestaan gaat gemiddeld zelden een half jaar voorbij zonder een privacyschandaal bij het bedrijf. Recent nog bleek nog dat het design van de Meta AI app maakt dat gebruikers onbedoeld hun privégesprekken publiek maken.
Maar in veel gevallen is het gebrek aan privacy ook doelbewust. Denk daarbij aan de Europese onderzoekers die vorige maand ontdekten dat Meta via de Facebook app mensen hun browserverkeer afluistert. Zo zijn er intussen talloze verhalen die er vooral op wijzen dat je best zo weinig mogelijk persoonlijke informatie deelt met de tools en systemen van het bedrijf.