OpenAI lanceert tool waarmee stemmen kunnen worden gekloond

OpenAI, het bedrijf achter de AI-tool ChatGPT, heeft een tool voorgesteld die moet toelaten dat stemmen worden gekloond. Het bedrijf laat wel weten dat de tool met een rits beperkingen komt die moeten vermijden dat er misbruik van wordt gemaakt.

De tool, die de naam Voice Engine kreeg, kan op basis van een opname van vijftien seconden een stem nabootsen. ‘We erkennen dat de mogelijkheid om stemmen te genereren die lijken op die van personen, serieuze risico’s met zich meebrengt, zeker in een verkiezingsjaar’, stelt het bedrijf.

Goedkeuring nodig

OpenAI zegt voor een ‘voorzichtige en geïnformeerde aanpak’ te zijn gegaan. Zo is er een expliciete goedkeuring nodig van de persoon wiens stem wordt gekloond en moet er duidelijk vermeld worden dat de stem door AI werd gegenereerd. Daarnaast krijgt elk product ook een watermerk mee.

Tijdens de Democratische voorverkiezingen in New Hampshire was er nog ophef ontstaan nadat een AI-versie van Joe Biden had opgeroepen om niet naar de stembus te trekken. In de nasleep daarvan nam de Amerikaanse overheid regelgeving aan die door AI-gegenereerde telefoongesprekken verbiedt.