Clearview AI is een Amerikaanse start-up die miljarden foto's van het internet heeft geschraapt om een gezichtsherkenningssoftware mee te bouwen. Het bedrijf zag bij een aanval onder meer zijn volledige klantenlijst gestolen. Het is niet duidelijk hoe de indringers bij het bedrijf zijn binnengekomen, maar volgens Clearview AI is de kwetsbaarheid ondertussen opgelapt. "Security is voor ons een topprioriteit", zegt Tor Ekeland, de advocaat van het bedrijf, in een reactie aan techsite The Daily Beast, "We blijven werken om onze beveiliging te versterken." In een bericht aan zijn klanten meldt het bedrijf dat een indringer toegang heeft gekregen tot de klantenlijst, maar dat er geen zoekgeschiedenis werd buitgemaakt.

Een en ander klinkt wat hol als je weet hoe gevoelig de gegevens zijn die het bedrijf heeft verzamelt. Clearview AI zegt zijn gezichtsherkenning te hebben gebaseerd op drie miljard foto's die het van het internet haalt met een crawler. Daaronder zitten foto's van sociale platformen als Facebook, Instagram, Twitter en YouTube. Het bedrijf schraapt die naar eigen zeggen 'publieke' beelden van sociale media en linkt ze aan alle gegevens die het daarover verder kan vinden. Vervolgens verpakt het die in een app voor politie- en overheidsdiensten. Onder zijn klanten zouden een 600-tal politiedepartementen uit Noord-Amerika zitten.

Het gebruik van 3 miljard foto's zonder de toestemming van al die mensen is op zich al controversieel, maar daarbij is het gebruik van gezichtsherkenning door overheden bijzonder gevoelig, omdat de AI vaak fouten maakt die in dit geval tot de arrestatie van onschuldige mensen kan leiden. Vooral vrouwen en niet-blanken zijn hier bijzonder kwetsbaar voor, omdat veel AI nog altijd een inherente 'bias' heeft.

Begin dit jaar kwam de firma verder onder vuur door een artikel in de New York Times. Daaruit bleek dat de technologie toeliet dat politiediensten foto's van onbekende gezichten te vergelijken met de volledige database van online beelden om een match te vinden. Daardoor zou zowat iedereen die ooit in een online foto is verschenen als mogelijke verdachte worden gezien. De foto's die Clearview AI heeft geschraapt blijven bovendien in de database van het bedrijf zitten, lang nadat de gebruikers die ze online hebben geplaatst ze verwijderden of hun accounts privaat zetten. Het bedrijf kreeg na het artikel gerechtelijke verzoeken van onder meer Google, Twitter en Facebook om met de praktijk te stoppen. De CEO van Clearview AI, Hoan Ton-That, zegt in interviews dat hij niks mis doet en dat hij de verzoeken in de rechtbank zal aanvechten.

Clearview AI is een Amerikaanse start-up die miljarden foto's van het internet heeft geschraapt om een gezichtsherkenningssoftware mee te bouwen. Het bedrijf zag bij een aanval onder meer zijn volledige klantenlijst gestolen. Het is niet duidelijk hoe de indringers bij het bedrijf zijn binnengekomen, maar volgens Clearview AI is de kwetsbaarheid ondertussen opgelapt. "Security is voor ons een topprioriteit", zegt Tor Ekeland, de advocaat van het bedrijf, in een reactie aan techsite The Daily Beast, "We blijven werken om onze beveiliging te versterken." In een bericht aan zijn klanten meldt het bedrijf dat een indringer toegang heeft gekregen tot de klantenlijst, maar dat er geen zoekgeschiedenis werd buitgemaakt. Een en ander klinkt wat hol als je weet hoe gevoelig de gegevens zijn die het bedrijf heeft verzamelt. Clearview AI zegt zijn gezichtsherkenning te hebben gebaseerd op drie miljard foto's die het van het internet haalt met een crawler. Daaronder zitten foto's van sociale platformen als Facebook, Instagram, Twitter en YouTube. Het bedrijf schraapt die naar eigen zeggen 'publieke' beelden van sociale media en linkt ze aan alle gegevens die het daarover verder kan vinden. Vervolgens verpakt het die in een app voor politie- en overheidsdiensten. Onder zijn klanten zouden een 600-tal politiedepartementen uit Noord-Amerika zitten.Het gebruik van 3 miljard foto's zonder de toestemming van al die mensen is op zich al controversieel, maar daarbij is het gebruik van gezichtsherkenning door overheden bijzonder gevoelig, omdat de AI vaak fouten maakt die in dit geval tot de arrestatie van onschuldige mensen kan leiden. Vooral vrouwen en niet-blanken zijn hier bijzonder kwetsbaar voor, omdat veel AI nog altijd een inherente 'bias' heeft.Begin dit jaar kwam de firma verder onder vuur door een artikel in de New York Times. Daaruit bleek dat de technologie toeliet dat politiediensten foto's van onbekende gezichten te vergelijken met de volledige database van online beelden om een match te vinden. Daardoor zou zowat iedereen die ooit in een online foto is verschenen als mogelijke verdachte worden gezien. De foto's die Clearview AI heeft geschraapt blijven bovendien in de database van het bedrijf zitten, lang nadat de gebruikers die ze online hebben geplaatst ze verwijderden of hun accounts privaat zetten. Het bedrijf kreeg na het artikel gerechtelijke verzoeken van onder meer Google, Twitter en Facebook om met de praktijk te stoppen. De CEO van Clearview AI, Hoan Ton-That, zegt in interviews dat hij niks mis doet en dat hij de verzoeken in de rechtbank zal aanvechten.