Open AI skärper säkerheten i Chat GPT efter stämning

Open AI planerar att stärka säkerheten i Chat GPT ytterligare efter att företaget stämts av föräldrarna till en amerikansk 16-åring som tog sitt liv i våras, rapporterar Bloomberg.

I ett blogginlägg skriver Open AI att chattboten ska bli bättre på att upptäcka och svara på tecken på psykisk ohälsa, till exempel genom att varna för sömnbrist eller uppmana användare att vila. Bolaget lovar också skärpta skydd kring samtal om självmord, nya föräldrakontroller och möjligheten att klicka sig vidare till lokala hjälplinjer direkt i Chat GPT.

”De senaste hjärtskärande fallen där människor använt Chat GPT mitt under akuta kriser tynger oss djupt”, skriver bolaget.

Familjens advokat Jay Edelson säger enligt Bloomberg att de uppskattar att bolaget tagit på sig ett visst ansvar, men frågar sig samtidigt varför åtgärderna inte kommit tidigare.