Meta sleept een bedrijf voor de rechter dat op zijn platformen AI-apps adverteerde die mensen ‘uitkleden’ zonder hun toestemming. Facebook en Instagram gaan ook zoektermen in die zin beperken.
Een en ander komt er na een onderzoek van de Amerikaanse nieuwszender CBS. Dat vond honderden advertenties voor ‘ontkleedapps’ op de verschillende platformen van Meta, waaronder Facebook, Instagram, Messenger en Threads. Die apps laten je toe om een foto te uploaden, waarna ze generatieve AI gebruiken om het onderwerp van de foto, zonder diens toestemming, digitaal uit te kleden.
In een reactie op het nieuws heeft Meta alvast de gevonden advertenties en de accounts erachter verwijderd. Daar zou nu nog bijkomen dat Engelse zoektermen als ‘nudify’, ‘undress’ en ‘delete clothing’ ingeperkt worden zodat ze geen resultaten meer geven. Het techbedrijf gaat op zijn platformen ook links naar websites van dit soort diensten blokkeren.
Rechtszaak
Ook klaagt Meta een van de bedrijven aan, het in Hong Kong gebaseerde Joy Timeline. Het bedrijf probeerde volgens Meta meermaals om het reviewproces voor advertenties te omzeilen en zo ongeoorloofde advertenties voor ontkleedapps te tonen.
Het onderzoek van CBS vond dat veel van de advertenties specifiek gericht waren op volwassen mannen in de VS, het Verenigd Koninkrijk en de EU. De apps worden in die ads aangeprezen als tools om voornamelijk vrouwen en celebrities zonder hun toestemming naakt te kunnen zien. De apps zouden onder meer gebruikt kunnen worden om vrouwen af te persen of te cyberpesten.