Meta heeft een tool aangekondigd om AI-gegenereerde content een onzichtbaar watermerk mee te geven. Het hoopt zo een steentje bij te dragen aan de strijd tegen deepfakes.
Sinds generatieve AI ontplofte is de hoeveelheid valse beelden op het internet gigantisch gegroeid. Volgens Sumsub zou het aantal deepfakes tussen vorig jaar en dit jaar maal vier zijn gegaan. Het verificatieplatform zegt dat de techniek ondertussen verantwoordelijk is voor 7 procent van alle fraudegevallen, van het nabootsen van iemands identiteit over account takeovers tot uitgebreide manipulatie via ‘social engineering’. Meta zegt daar iets aan te willen doen en brengt een tool uit die onzichtbare watermerken toevoegt aan video’s die met AI zijn gegenereerd.
Meta Video Seal, een aanvulling op het al bestaande Watermark Anything en Audio Seal van Meta, wordt beschikbaar als openbron software, en is zo ontworpen dat het in bestaande software kan worden geïntegreerd. In een interview met TechCrunch geeft Pierre Fernandez, AI-onderzoeker bij Meta, toe dat er al ander watermarkingtools zijn. ‘Die zijn niet zo goed opgewassen tegen videocompressie, wat toch belangrijk is als het gaat om content die via sociale media wordt gedeeld. Ze zijn ook niet efficiënt als het gaat om schaal, open noch reproduceerbaar, en vaak gebaseerd op beeldwatermerken, wat suboptimaal is voor video’s.’
Publieke ranking
Naast het watermerk kan Video Seal ook een verborgen boodschap toevoegen aan de video’s zodat de oorsprong ervan later kan worden bepaald. Volgens Meta is de tool bestand tegen tactieken als blurring en cropping en populaire compressie-algoritmes. Toch geeft Fernandez in het interview toe dat zware compressie en betekenisvolle wijzigingen aan de video’s de watermerken onvindbaar kunnen maken.
Om te zorgen dat ontwikkelaars en de industrie Meta’s tool gebruiken, begint het bedrijf een publieke ranking – Meta Omni Seal Bench genaamd – dat de performance van verschillende watermerk-methodes zal vergelijken. Op de AI-conferentie ICLR zal het ook een workshop inrichten over watermerken.
