Kalifornien blir första delstaten att reglera AI-chattbotar

Kaliforniens guvernör Gavin Newsom har undertecknat en ny lag som gör delstaten först i USA med att reglera så kallade AI-kompanjoner, rapporterar Techcrunch. Lagen, kallad SB 243, ska skydda barn och utsatta användare och ställer krav på åldersverifiering, varningar om risker samt tydliga regler för hur chattbotar får agera.

– Ny teknik som chattbotar och sociala medier kan inspirera, utbilda och förena – men utan tydliga skyddsräcken kan den också utnyttja, vilseleda och utsätta våra barn för fara, säger Newsom i ett uttalande.

Lagen innebär att företag som Open AI, Meta, Character AI och Replika kan hållas ansvariga om deras tjänster inte uppfyller kraven. Bakgrunden är flera uppmärksammade fall där unga personer farit illa och i vissa fall tagit sina liv efter konversationer med AI-chattbotar. Lagen träder i kraft den 1 januari 2026.