Starter van de week: NannyML houdt AI-algoritmes in de gaten

Allemaal goed en wel, die artificiële intelligentie. Maar doen die algoritmes wel wat ze moeten? En klopt het wat ze voorspellen? De Leuvense start-up NannyML ontwikkelde een oplossing die de gezondheid van AI-processen monitort.

‘Wie controleert de controleur?’, gaat het gezegde. En zo is het maar net, nu ons leven stukje bij beetje aan artificiële intelligentie wordt prijsgegeven. Hoe meer processen met een algoritme worden geautomatiseerd, hoe belangrijker het wordt dat die ook correct werken. Denk maar aan de recente problemen met software voor gezichtsherkenning, die gekleurde mensen minder goed herkent dan witte mensen. Over dat probleem buigt NannyML zich (voorlopig) nog niet, maar van het monitoren van AI-algoritmes maakte het wel zijn business.

Wiljan Cools en co-founders Hakim Elakhrass en Wojtek Kuberski begonnen anderhalf jaar geleden met AI-consultancy onder de noemer Prophecy Labs. ‘Het was echter altijd onze bedoeling om een echt product te ontwikkelen’, zegt Cools. ‘En niet in de consultancy te blijven hangen. Daarom besloten we ons te richten op AI observability. Het is belangrijk dat AI-algoritmes onderhouden worden, dat we controleren of ze nog altijd relevante resultaten opleveren.’

Datadrift detecteren

Daarmee kan het volgens de founder namelijk altijd fout lopen: ‘Neem nu een aankoopalgoritme van een supermarkt, dat op basis van data uit het verleden voorspelt wanneer de klanten voor welke producten zullen kiezen. Die voorspelling kan door de hele coronacrisis plots behoorlijk inaccuraat worden. Een ander voorbeeld: bepaalde enterprise-software die vroeger door jongeren werd gebruikt, maar intussen ook door oudere gebruikers is ontdekt. Zo’n verschuiving kan ervoor zorgen dat een algoritme dat voorheen vlekkeloos werkte ineens niet langer de juiste resultaten oplevert. Door dat soort datadrift te detecteren kunnen we de ML Health Score van een algoritme bepalen.’

NannyML – de letters ML staan voor Machine Learning – werkte een webplatform uit dat de data-input van een algoritme vergelijkt met de uiteindelijke berekeningen op basis van die data. ‘Daarbij willen we niet zozeer een hulp zijn voor datawetenschappers, maar voor de business owners van het algoritme. We willen er immers juist voor zorgen dat de algoritmes de gewenste bedrijfsprocessen ondersteunen.’

Service as a Software

Voorlopig vraagt alles nog wat betrokkenheid en consultancy van de founders. Cools noemt zijn businessmodel dan ook Service as a Software. ‘Op dit moment willen we onze tool bij de klant nog zelf implementeren. Maar het is de bedoeling om via enkele pilootprojecten een product te ontwikkelen dat gemakkelijk voor elke usecase kan worden ingeschakeld.’

De start-up had vanuit Prophecy Labs naar eigen zeggen volledig kunnen bootstrappen, maar verkoos om eerst financiering op te halen. ‘Op die manier konden we ons product loskoppelen van de consultancy’, klinkt het. ‘De ervaring leert dat als je dat niet doet, je toch in die custom based-benadering blijft zitten, terwijl het echt de bedoeling is om bij een product uit te komen.’

Nu NannyML 1,06 miljoen euro ophaalde met inbreng van Volta Ventures en Lunar Ventures en een kleiner aandeel van business angels, is het klaar voor die volgende stap. ‘Een interessante combinatie van investeerders’, weet Cools, ‘want met Frank Maenen van Volta halen we heel wat commerciële kennis in huis, terwijl de mensen van het Berlijnse Lunar Ventures net technisch heel beslagen zijn, en ons dus bij het development kunnen adviseren.’

Voor de ontwikkeling van de tool is Cools nu op zoek naar klanten die een pilootproject willen vormen voor NannyML. ‘Daarbij zoeken we bedrijven met een zekere maturiteit op AI-vlak, met een groot team van AI-specialisten en een aantal AI-modellen in productie. Ik denk aan de financiële of de telecomsector, waarmee we al veelbelovende gesprekken voerden. Dat zou in het eerste kwartaal van 2021 tot de eerste projecten moeten leiden, waarmee we willen bewijzen dat er wel degelijk een markt is die voor dit soort oplossing wil betalen. Explainable AI mag intussen dan een kleine hype zijn, het probleem is dat veel klanten er nog geen geld voor veil hebben.’

De ambities van NannyML liggen in elk geval hoog. ‘Eerst België natuurlijk, maar daarna willen we zeker doorgroeien. Of dat ook in de VS zal lukken, is nog een vraag. Aan deze kant van de oceaan zijn we behoorlijk uniek in onze aanpak, maar in Silicon Valley steken al enkele concurrenten de kop op, die heel wat geld wisten op te halen. We zien dus wel hoever we raken, eenmaal we in Europa sterk staan.’