Open AI:s nya regler för barn: Kan kontakta polisen
Open AI kommer att införa kraftiga begränsningar av sin chattbot Chat GPT för användare under 18 år. Det uppger Open AI:s vd Sam Altman i ett uttalande på tisdagen.
Enligt uttalandet kommer Chat GPT inte längre att delta i ”flirtiga samtal” med minderåriga, och om barn försöker använda Chat GPT för självmordsfantasier kommer tjänsten automatiskt att kontakta barnens föräldrar eller polis.
”Vi prioriterar säkerhet framför privatliv och frihet för tonåringar”, skriver Altman.
De nya tjänsterna kommer att bygga på att föräldrar först registrerar ett särskilt konto för minderåriga för sina barn. Kritiker har varit snabba att påpeka att minderåriga som vill kringgå spärrarna fortfarande kommer att kunna nå tjänsten utan ett sådant konto.
Open AI uppger att de därför också kommer att låta tjänsten utvärdera vilka användare som är under 18 baserat på vad de ställer för frågor, och begränsa de användare som bedöms vara barn. Det är ännu oklart hur träffsäker en sådan bedömning kommer att vara.
