OpenAI, het bedrijf achter generatieve chatbot ChatGPT, heeft een tool gebouwd die AI-teksten kan watermerken. De organisatie wil die tool echter niet uitrollen omdat ze het gebruik van ChatGPT kan hinderen.
OpenAI heeft een tool in haar arsenaal waarmee door AI gegenereerde teksten een watermerk krijgen. Je zou de tool ook kunnen gebruiken om met grote accuraatheid AI-teksten op te sporen. Dat zou vooral werken voor teksten die waar AI kleine aanpassingen deed, maar minder bij teksten die zware AI-aanpassingen kregen, en bijvoorbeeld vertaald werden. Dat schrijft de organisatie in een blogpost.
Volgens de krant The Wall Street Journal is de tool al zo’n jaar klaar, maar twijfelt OpenAI om ze uit te rollen, schijnbaar omdat ze de adoptie van ChatGPT zou kunnen afremmen. Zo zouden studenten minder geneigd zijn om generatieve AI te gebruiken als de kans groot is dat leraren dat kunnen uitvissen. Nog volgens de krant deed OpenAI een enquête over de vraag en wilde zo’n derde van de respondenten liever niet dat de tool openbaar wordt.
OpenAI zegt zelf in zijn blogpost dat het vreest voor de stigmatisering van AI als schrijfhulpmiddel, specifiek voor mensen voor wie Engels geen moedertaal is. De huidige tool zou bovendien wel effectief zijn, maar niet als je een tekst nog eens door een ander model gooit voor enkele aanpassingen. Al bij al komt de tool er dus voorlopig niet, en kijkt OpenAI naar andere methoden, zoals het gebruik van metadata, zo schrijft de organisatie nog.
Fout opgemerkt of meer nieuws? Meld het hier