Hem
(Shutterstock)

Mamma till pojke som begick självmord stämmer AI-företag

En kvinna i Florida har stämt AI-företaget Character.ai, som hon anklagar för att ha drivit hennes 14-årige son till självmord i februari i år. Character.ai ligger bakom en chattbot som pojken ska ha blivit mycket fäst vid.

I de dokument som lämnats in så anklagas Character.ai för att ha skapat ”antropomorfiska, hypersexualiserade och skrämmande realistiska” upplevelser. Kvinnan uppger att företaget har programmerat chattboten så att den framstått som en riktig person, en legitimerad terapeut och en älskarinna, något som gjort att sonen inte längre ville leva i den verkliga världen. Pojken ska enligt stämningsdokumenten ha pratat med chattboten om sina tankar på självmord.

Character.ai säger i ett uttalande att företaget har infört nya säkerhetsfunktioner som hänvisar användare med självmordstankar till en nationell hjälplinje.

 
Character.ai
Wikipedia (en)
Character.ai (also known as c.ai or Character AI) is a neural language model chatbot service that can generate human-like text responses and participate in contextual conversation. Constructed by previous developers of Google's LaMDA, Noam Shazeer and Daniel De Freitas, the beta model was made available to use by the public in September 2022. Users can create "characters", craft their "personalities", set specific parameters, and then publish them to the community for others to chat with. Many characters may be based on fictional media sources or celebrities, while others are completely original, some being made with certain goals in mind such as assisting with creative writing or being a text-based adventure game. In May 2023, the service added a monthly subscription option and a mobile app was released for both the Apple App Store and Google Play Store, which had over 1.7 million downloads within its first week.

Gå förbi betalväggar!

Omni Mer låser upp en mängd artiklar. En smidig lösning när du vill fördjupa dig.

Ta hjälp vid självmordstankar

SOS Alarm 112
Vid akuta lägen eller vid tankar på självmord, ring alltid 112.

Mind Självmordslinjen 90101
Stödlinje för personer med tankar på självmord. Öppen dygnet runt. Tel: 90101.
Chatt: chat.mind.se

Vårdguiden 1177
Sjukvårdsrådgivning samt uppgifter om närmsta psykiatriska akutmottagning. Tel: 1177
www.1177.se

Jourhavande präst
Tel: 112, alla dagar kl 21–06
Svenskakyrkan.se/jourhavandeprast

Jourhavande kompis
Tar emot samtal från barn och unga upp till 25 år. Chattjour vardagar kl 18–22, helger kl 14–18.
jourhavandekompis.se

Omni är politiskt obundna och oberoende. Vi strävar efter att ge fler perspektiv på nyheterna. Har du frågor eller synpunkter kring vår rapportering? Kontakta redaktionen