De Europese Unie heeft een voorlopig voorstel klaar dat generatieve AI zoals ChatGPT wil reguleren. Een van de plichten daarbij is dat die tools moeten aangeven of ze auteursrechtelijk beschermd materiaal gebruiken.
De plannen voor regulering liggen al twee jaar op tafel en gaan nu een volgende fase in waarbij wetmakers en lidstaten de details kunnen verfijnen. Intussen is AI zelf, en dan specifiek generatieve AI zoals ChatGPT van OpenAI en haar varianten, sterk in opmars. Europa zou daarbij de eerste regio zijn met regulering voor de technologie.
Volgens Reuters bevat de voorlopige versie van de wet onder meer een klassering voor elke tool, van laag tot hoog en zelfs onaanvaardbaar. Denk daarbij aan tools die biometrische surveillance, het verspreiden van desinformatie of discriminatie mogelijk maken. Het is op zich niet de bedoeling om tools tot de op één na hoogste klasse te verbieden, maar die zouden wel onderhevig zijn aan transparantieregels over hun werking.
Beschermd werk
Een ander opmerkelijk punt is dat dergelijke tools moeten melden wanneer ze auteursrechterlijk beschermd materiaal gebruiken om hun systemen te ontwikkelen. Verschillende modellen die tekst genereren, leren hun woorden en zinsstructuur van teksten die op internet te vinden zijn, maar die zijn in praktijk vaak niet rechtenvrij en de betrokken auteurs of uitgevers zijn niet gevraagd of vergoed daarvoor.
Hetzelfde geldt voor beeldgeneratoren zoals Dall-E en Midjourney, die vandaag beelden uit het niets genereren, maar hun leerprocessen wel op punt stelden met beeldbanken en beelden die publiek op het internet te vinden zijn. Ook telkens zonder toestemming van de fotografen en beeldend kunstenaars die ze maakten.
Fout opgemerkt of meer nieuws? Meld het hier