Het bedrijf achter onder meer ChatGPT lanceert het programma, dat onderzoekers tot 20.000 dollar biedt voor fouten en bugs die ze in zijn producten vinden.
Security-onderzoekers die kwetsbaarheden in de producten van OpenAI vinden, kunnen die via het Bugcrowd platform rapporteren in ruil voor een beloning. Zoals dat meestal gaat met bug bounties, is die beloning gebaseerd op de ernst van de bug, met zo’n 200 dollar voor securityfouten die weinig impact hebben, tot 20.000 dollar voor uitzonderlijke kwetsbaarheden.
‘Het OpenAI Bug Bounty Program is een manier voor ons om de waardevolle inzichten te erkennen en belonen van security-onderzoekers die bijdragen aan de veiligheid van onze technologie en ons bedrijf,’ aldus OpenAI in een persbericht.
Chatbot
OpenAI is de laatste maanden bij het bredere publiek bekend geworden met de lancering van ChatGPT, een taalalgoritme dat je toelaat onder meer vragen in natuurlijke taal aan een zoekrobot te stellen. Fouten in het eigenlijke model horen echter niet binnen het bug-bountyprogramma, zegt OpenAI. Het bedrijf vraagt om bugs hier in een apart formulier te melden, tenzij ze ook een impact hebben op de security.
De werking van het taalmodel wordt sinds de lancering door het publiek ‘getest’, waarbij gebruikers onder meer barrières proberen te breken die de chatbot moeten beletten om kwetsende of politiek gevoelige statements te maken. Sinds de snelle opkomt van taalmodellen zoals dat van OpenAI krijgen de chatbots ook veel kritiek om het verzinnen van ‘feiten’ of zelfs het verergeren van psychologische problemen bij kwetsbare gebruikers. Dat soort tests past echter niet binnen een traditionele bug bounty, zegt OpenAI.
Fout opgemerkt of meer nieuws? Meld het hier