OpenAI, het bedrijf ChatGPT, wil ouders meer inzicht geven in hoe hun tieners het AI-model gebruiken. Dat meldt het nadat een jongen zich van het leven heeft beroofd na gesprekken met de chatbot.
OpenAI bekijkt nieuwe veiligheidsmaatregelen en wil ook functies voor ouderlijk toezicht toevoegen aan zijn bekendeAI-model. Dat zegt het bedrijf in een blogpost. De aanpassingen komen enkele dagen nadat de New York Times een artikel schreef over de dood van de zestienjarige Adam Raine. Die pleegde zelfmoord na maanden van gesprekken met de chatbot. Zijn ouders vinden dat OpenAI meer had moeten doen om zijn dood te voorkomen en zijn een rechtszaak gestart.
In de zaak beschuldigen de ouders OpenAI ervan dat de chatbot Adam instructies gaf over hoe hij zich van het leven zou kunnen beroven, en dat de bot hem weg hield van ondersteuningssystemen in het echte leven. Volgens de ouders is de chatbot ontworpen om gebruikers aan de praat te houden en hun gedachten te bevestigen, ook als die gedachten gevaarlijk zijn.
Langere interacties
ChatGPT heeft al vrij veel maatregelen ingebakken om net dit soort situaties te voorkomen maar, zo zegt OpenAI ‘die waarborgen kunnen soms minder betrouwbaar zijn in langere interacties. Naarmate de discussie groeit, kunnen delen van de veiligheidstraining van het model verminderen.’
Bij de nieuwigheden die OpenAI bekijkt, zit onder meer het toevoegen van een noodcontact dat met een klik kan worden gecontacteerd. Optioneel zou ChatGPT die persoon zelf kunnen contacteren ‘in erge gevallen’. Het bedrijf zegt ook te werken aan een update voor GPT-5 die de chatbot toelaat bepaalde situaties te de-escaleren.
Wie met vragen zit over zelfdoding kan terecht op de Zelfmoordlijn, op het gratis nummer 1813, of op zelfmoordlijn1813.be. Nood aan een gesprek? Dan kun je 24/7 terecht bij Tele-Onthaal op het nummer 106. Je kan ook chatten via tele-onthaal.be . Jongeren kunnen terecht bij Awel op telefoonnummer 102, of via chat op awel.be.