OpenAI is op zoek naar een nieuwe Head of Preparedness. De rol is gericht op het beveiligen van de systemen van het bedrijf en het in kaart brengen van mogelijke misbruikrisico’s van AI-modellen.
Sam Altman, CEO van OpenAI, benadrukt in een bericht op X dat de snelle ontwikkeling van AI-modellen ‘echte uitdagingen’ oplevert. Hij wijst op mogelijke gevolgen voor de geestelijke gezondheid, zonder verdere details te geven over specifieke gevallen of producten.
De Head of Preparedness is verantwoordelijk voor de technische strategie en uitvoering van OpenAI’s ‘preparedness framework’, een kader dat het bedrijf gebruikt om ‘grensverleggende mogelijkheden’ te monitoren die nieuwe risico’s op ernstige schade kunnen veroorzaken.
De functie is niet nieuw: tot juli 2024 werd ze vervuld door Aleksander Madry, directeur van MIT’s Center for Deployable Machine Learning. Na zijn vertrek namen Joaquin Quinonero Candela en Lilian Weng de leiding over het preparedness-team op zich. Beide functionarissen verlieten de rol echter al snel. Weng vertrok in november 2024 bij OpenAI, terwijl Candela in april 2025 zijn positie verruilde voor een stageplaats als programmeur. Momenteel is hij werkzaam als hoofd werving bij het bedrijf.
In samenwerking met Dutch IT Channel