Meerdere diensten staan niet langer toe dat gebruikers zogeheten ‘deepfake’ pornovideo’s naar hun platform uploaden. Het gaat om video’s waarin de acteurs en actrices met de hulp van AI vervangen werden door celebrities.
De ‘deepfake’ video’s in kwestie zijn vaak pornografische beelden, waarin de gezichten van de actrices en acteurs in beeld verwisseld worden met andere gezichten. De makers van de video’s gebruiken zo artificiële intelligentie software om getrukeerde films te maken met hun favoriete celebrity, meestal in compromitterende posities.
De creatie van de video’s is de laatste maand stijl de hoogte in gegaan. Begin januari werd namelijk een gratis tooltje gelanceerd waarmee je vrij makkelijk gezichten in films kunt ‘swappen’. De tool, FakeApp, zou al meer dan 100.000 keer gedownload zijn. De software gebruikt een machine learning algoritme om een digitale, computergerenderde versie van iemands gezicht te maken. Daarvoor zijn wel meerdere honderden foto’s van het onderwerp, de celebrity in kwestie, nodig. Dat digitale gezicht wordt vervolgens in een video over het bestaande gezicht van de acteur of actrice geplaatst. De resulterende video’s zijn soms van bedenkelijke kwaliteit, maar ze kunnen ook erg overtuigend zijn.
Porno zonder toestemming
Een goed, kindvriendelijker voorbeeld daarvan is de trend waarbij de acteur Nicolas Cage in allerlei scenes en films wordt gedropt waar hij nooit aan meedeed, zoals deze Indiana Jones-film.
Maar omdat het internet nog altijd het internet is, wordt de tool voornamelijk gebruikt om porno te maken en op fora als Reddit te delen. De trend werd eind januari opgemerkt door techsite Motherboard en lokt vaak negatieve reacties uit. Meerdere online diensten reageren nu door de video’s te verbieden.
Eerder besloot chatdienst Discord al om servers waarop veel deepfake video’s worden gedeeld van het net te halen. Nu doet ook Gfycat, een van de belangrijkste hostingplatformen van de bestanden, hetzelfde. Beide diensten spreken over schendingen van hun gebruiksregels. De belangrijkste vraag die rijst rond deze video’s is daarbij of ze de privacy van de celebrities in kwestie schenden. Want hoewel porno op zich, zeker op Gfycat, is toegestaan, worden de deepfakes hier gezien als porno die werd gemaakt zonder toestemming van de mensen in beeld.
Fout opgemerkt of meer nieuws? Meld het hier