Honderden internationale experts eisen een pauze van minstens zes maanden in het onderzoek naar artificiële intelligentie (AI) die nog krachtiger is dan ChatGPT 4.
Die chatbot werd midden maart gelanceerd. Nog krachtiger modellen brengen volgens de ondertekenaars “grote risico’s voor de mensheid” met zich mee. Bekende namen op de lijst met handtekeningen zijn Twitter-, Space-X en Tesla-CEO Elon Musk, Apple-medeoprichter Steve Wozniak en historicus Yuval Noah Harari.
Wat de ondertekenaars van de petitie betreft moet er een moratorium komen op de verdere ontwikkeling tot veiligheidssystemen zijn ingevoerd, zoals nieuwe regelgevende instanties, toezicht op AI-systemen, technieken die helpen een onderscheid te maken tussen echte en artificiële content en instellingen die kunnen omgaan met de “dramatische economische en politieke ontwrichting (vooral van de democratie) die AI zal veroorzaken”.
Gevaar voor grootschalige desinformatie
ChatGPT is een project van het Amerikaanse OpenAI, dat mee werd opgericht door Elon Musk in 2015. In 2018 verliet Musk het bestuur. De gespecialiseerde website Semafor meldde enkele dagen geleden nog dat Musk in dat jaar probeerde om OpenAI over te nemen en zelf te leiden. Huidig CEO en andere mede-oprichter Sam Altman heeft eerder al aangegeven dat hij ‘een beetje bang’ was voor de uitvinding als die gebruikt zou worden voor ‘grootschalige desinformatie of cyberaanvallen’. In een interview met ABC News zei hij dat de samenleving ‘tijd nodig heeft om zich aan te passen’.
‘AI-laboratoria zijn de laatste maanden verwikkeld in een uit de hand gelopen race om steeds krachtiger digitale breinen te ontwikkelen en ontplooien, die niemand – zelfs hun ontwikkelaars niet – kan begrijpen, voorspellen of op een betrouwbare manier controleren’, aldus de oproep van het Future of Life Institute dat de open brief publiceert.
‘Controle op samenleving niet verliezen’
‘Moeten we toelaten dat machines onze informatiekanalen overspoelen met propaganda en leugens’, gaat het manifest verder. ‘Moeten we alle jobs wegautomatiseren, ook de zinvolle? Moeten we niet-menselijke breinen ontwikkelen die uiteindelijk ons kunnen overtreffen, te slim af zijn, overbodig maken en vervangen? Moeten we riskeren dat we de controle over onze beschaving verliezen? Die beslissingen mogen niet toevertrouwd worden aan onverkozen bazen van technologiebedrijven.’
Fout opgemerkt of meer nieuws? Meld het hier