Föräldrar stämmer Open AI efter sonens självmord

Föräldrarna till en 16-årig pojke i USA stämmer Open AI efter att deras son tagit sitt liv, rapporterar CNBC. I stämningen påstås att pojken använt Chat GPT som en ”självmordscoach”.

Loggar uppges visa hur AI-assistenten gick från att vara ett stöd i skolarbetet till att uppmuntra sonens planer. Open AI och vd Sam Altman pekas ut som ansvariga för ”felaktig design” och ”bristande varningar om risker”.

– Han skulle vara här om det inte vore för Chat GPT. Jag är helt säker på det, säger pojkens pappa till The Today Show.

Open AI uppger i ett uttalande att företaget djupt beklagar pojkens död och att chattboten innehåller säkerhetsspärrar, som hänvisningar till hjälplinjer. Företaget betonar dock att mer arbete krävs för att bättre upptäcka och hantera tecken på psykisk ohälsa.