Verschillende academici over de hele wereld maken zich ongerust over het de samenwerking van Zuid-Koreaanse universiteit KAIST met Hanwha, een van de grootste wapenproducenten in het Aziatische land.
Toen het Korean Advanced Institute of Science and Technology (KAIST) liet weten dat ze samen met Hanwha een project zullen starten om AI-technologie te ontwikkelen voor militaire toepassingen, kwam er al snel reactie vanuit de academische wereld.
Internationale boycot
Zo lanceerde professor aan de universiteit van South-Wales, Toby Walsh, een open brief waarin hij oproept om het project openlijk te boycotten. ‘Er zijn zo veel goede dingen die we kunnen doen met AI, zélfs in een militaire context. Dit is een samenwerking van een gerespecteerde universiteit met een ethisch dubieuze organisatie met als doel om autonome wapens te ontwikkelen. Zoiets mogen we niet ondersteunen’, aldus Walsh.
Concreet houdt de boycot in dat verschillende onderzoekers en universiteiten niet meer zullen samenwerken met het KAIST voor onderzoeksprogramma’s, dat ze de universiteit niet meer zullen bezoeken en dat ze ook geen onderzoekers meer van hen ontvangen. Eens het KAIST belooft zich terug te trekken uit het onderzoek naar autonome wapens zonder menselijke controle of er voldoende bewijs is dat er geen onethisch onderzoek gebeurt, wordt de boycot terug opgeheven. Tot nu toe hebben al meer dan vijftig academici de open brief ondertekend, waaronder Maurice Bruynooghe en Luc De Raedt van de KU Leuven en Marco Dorigo van de Vrij Universiteit Brussel.
Sung-Chul Shin, directeur van het KAIST, is erg teleurgesteld over de internationale reactie. ‘Als academische instelling zien wij ethische standaarden en menselijke waardigheid als het allerhoogste goed. We gaan geen autonome wapens of ‘killer robots’ zonder menselijke controle gaan ontwikkelen.’
In de oorspronkelijke aankondiging over het project leek het daar echter wel naartoe te gaan. KAIST en Hanwha zouden onderzoek doen naar ‘op AI-gebaseerde commando- en beslissingssystemen met navigatie-algoritmes voor onbemande onderzeeërs’ en ‘AI tracking- en herkenningstechnologieën’. Die aankondiging werd ondertussen wel al terug ingetrokken.
Belangrijke grens
De zin ‘zonder menselijke controle’ is op dit moment een thema waarover erg veel discussie ontstaat. Er zijn op dit moment al autonome wapens, maar die hebben wel nog een bepaalde ‘bevestiging’ nodig door een mens vooraleer die iemand kunnen doden. Voor velen is dat een heel belangrijke grens.
Daarom komen 123 VN-landen volgende week samen in Geneve om te discussiëren over de richtlijnen rond killer robots. Volgens Walsh zal de snelle en hevige reactie in verband met het onderzoek van het KAIST en Hanwha zijn impact hebben tijdens die debatten.
