De kunstmatige intelligentie zou schade kunnen berokkenen als ze in verkeerde handen terecht komt.
Microsoft verstrengt de voorwaarden om toegang te krijgen tot zijn gezichtsherkenningssoftware. De stap past in de pogingen van de techgigant om verantwoordelijk om te gaan met de eigen technologie. De AI rond gezichtsherkenning kan verregaande gevolgen hebben voor de maatschappij als ze in verkeerde handen terecht komt, aldus Microsoft.
Dat staat alvast in een document genaamd ‘Responsible AI Standard’, waarin het bedrijf zijn eigen regels en standaarden uit de doeken doet. In de praktijk gaat het om de tools Azure Face API, Computer Vision en Video Indexer, waarvoor toegang een pak moeilijker wordt. Het bedrijf gaat alvast de Azure-diensten offline halen die emoties proberen te analyseren, of belangrijke identiteitsindicatoren zoeken zoals leeftijd, geslacht en meer.
Gezichtsherkenning is al jaren een van de beruchtste mogelijkheden van AI en hoewel Microsoft zelf dus meerdere van die softwarediensten heeft, is het bedrijf ook een van de meer uitgesproken spelers wanneer het om verantwoord gebruik ervan gaat. Het bedrijf vroeg jaren geleden al om wetten op gezichtsherkenning en weigerde in 2019 ook een contract om de technologie te leveren aan de Amerikaanse politie.
Automatische gezichtsherkenning kan verregaande gevolgen hebben voor de mensenrechten, en specifiek de privacy. Door protest van gebruikers en een reeks rechtszaken hebben ook andere bedrijven, zoals Facebook, hun (openbaar) gebruik van gezichtsherkenning al stevig verminderd.
Echt veel wettelijke omkadering voor de nog vrij nieuwe technologie is er op de meeste plekken echter nog niet, en dus pleit Microsoft hier voorlopig voor zelfregulerende standaarden. Klanten die de Face API willen gebruiken, zullen vanaf nu een formulier moeten invullen en worden vermoedelijk op een aantal punten gecheckt.
Fout opgemerkt of meer nieuws? Meld het hier