Discriminatie en ‘bias’ zijn momenteel dringender problemen voor geavanceerde artificiële intelligentie dan het mogelijke einde van de mensheid. Dat zegt EU-commissaris Margrethe Vestager. Ze doet de uitspraken enkele dagen voor de eerste stemming rond de Europese AI Act.
Volgens Vestager moet de EU betere vangrails inbouwen tegen de grootste risico’s van de technologie, zo zegt ze tegen de Britse omroep BBC. En bij die risico’s zit onder meer dat AI zal helpen, of al helpt, om beslissingen te maken die het leven van burgers kan beïnvloeden. Denk dan bijvoorbeeld aan het goedkeuren van leningen.
Zoals we ondertussen hebben gezien bij bijvoorbeeld de Nederlandse toeslagenaffaire, gaat technologie daar de mist in als ze niet juist geprogrammeerd is. Discriminatie kan in het programma ingebakken zitten als het algoritme wordt getraind op bijvoorbeeld historische data waar al een zekere discriminatie uit blijkt. Het algoritme zal die dan mogelijk nog versterken.
De voorbije maanden stuurden meerdere AI-experts open brieven de wereld in waarin ze waarschuwden voor de gevaren van de nieuwe technologie. Een daarvan waarschuwt zelfs voor het einde van de mensheid als krachtige toekomstige AI in de verkeerde handen terechtkomt. Critici, en nu dus ook Vestager, zeggen dat dat echter afleidt van de huidige problemen waar AI nu al mee kampt, zoals discriminatie en een gebrek aan transparantie.
Het Europees Parlement stemt vandaag over de AI Act, een nieuwe wetgeving die strengere regels moet opleggen aan technologieën zoals generatieve AI. De Europese regels houden onder meer rekening met het auteursrecht van de teksten en beelden waarop AI getraind wordt. Het gaat om een eerste stemming, de wet gaat waarschijnlijk pas over twee tot drie jaar werkelijk in. Vestager heeft al opgeroepen tot een vrijwillige gedragscode van bedrijven om de tijd tot die inwerkingtreding te overbruggen.
Fout opgemerkt of meer nieuws? Meld het hier