IBM komt met een tool om bedrijven die AI gebruiken meer inzicht te geven in wat er gebeurt, en controleert of dat wel verantwoord is.
Onder de naam Watsonx.governance lanceert IBM begin december een nieuwe AI tool die als voornaamste taak heeft om andere AI-tools, ook als ze niet van IBM zijn, te controleren op fouten, onregelmatigheden of dingen die problemen kunnen veroorzaken.
IBM ziet drie toepassingen voor Watsonx.governance: lifecycle management, risk management en compliance. Het benadrukt daarbij dat AI door veel bedrijven wordt overwogen of al actief wordt gebruikt, maar dat er veel risico’s zijn. Zo is de kwaliteit van taalmodellen die zich op het internet baseren niet altijd even goed, maar kunnen er ook risico’s ontstaan als een bedrijf modellen traint met interne gevoelige data.
Watsonx.governance belooft dat het een licht kan werpen op welke data er in een AI-systeem gaat, en wat er weer uitkomt en dat voor vrijwel elk systeem. ‘We kunnen eender welk model, dus ook modellen van derde partijen, integreren,’ legt Ana Paula Assis, General Manager EMEA bij IBM uit aan Data News. ‘Onze aanpak is open, hybride en multi model op zowel een publieke als private cloudomgeving.’
Fout opgemerkt of meer nieuws? Meld het hier