Een groep van meer dan duizend bekende wetenschappers, captains of industry, beleidsmakers en andere prominenten wil een voorlopig verbod op de ontwikkeling van kunstmatige superintelligentie.
In een verklaring pleiten ze ervoor om een dergelijke super-AI pas te ontwikkelen als er ‘brede wetenschappelijke consensus is dat dit veilig en controleerbaar kan worden gedaan’ en als er ‘stevige publieke steun’ voor is.
Onder de ondertekenaars zijn Nobelprijswinnaar en AI-pionier Geoffrey Hinton, Apple-oprichter Steve Wozniak en Virgin-topman Richard Branson. Ook acteur/schrijver Stephen Fry, prins Harry en voormalig Trump-adviseur Steve Bannon hebben getekend.
Uitsterven van de mensheid
Een aantal van hen waarschuwt in een persoonlijke noot voor een onbeheersbare vorm van kunstmatige superintelligentie. ‘Dit is geen moratorium in de gebruikelijke zin van het woord. Het is een voorstel om adequate maatregelen in te stellen voor een technologie die, volgens haar ontwikkelaars, een grote kans heeft het uitsterven van de mensheid te veroorzaken’, zegt Berkeley-professor Stuart Russell.