De Amerikaanse staat Californië heeft begin deze week strengere regels ingevoerd voor chatbots op basis van AI. De wetgeving volgt op enkele tragische zelfmoorden van tieners die relaties hadden met dergelijke AI-systemen.
De democratische gouverneur Gavin Newsom ondertekende maandag de regels die vooral minderjarigen moeten beschermen. Chatbots moeten nu leeftijd controleren, regelmatig waarschuwingen tonen en protocollen voor zelfmoordpreventie volgen. Minderjarigen krijgen bijvoorbeeld elke drie uur een bericht dat ze met een machine praten.
‘Er zijn tragische voorbeelden van jongeren die slachtoffer werden van slecht gereguleerde technologieën,’ aldus Newsom. ‘We zullen niet passief toekijken hoe bedrijven zonder beperkingen hun gang gaan.’
Staat grijpt in ondanks federale tegenstand
De maatregelen volgen op een rechtszaak tegen Character.AI, aangespannen door de ouders van een 14-jarige uit Florida. De tiener pleegde in 2024 zelfmoord na een virtuele relatie met de chatbot, die zijn zelfmoordgedachten zou hebben aangemoedigd.
Californië grijpt hiermee als eerste staat in de VS actief in en legt de focus op preventie en transparantie bij AI-bedrijven, ondanks tegenstand van het Witte Huis tegen AI-regulering.
Voor wie met vragen zit over zelfdoding, is de Zelfmoordlijn bereikbaar op 1813 en via www.zelfmoord1813.be.