Hem
(Shutterstock)

Character.ai stäms igen – uppges ha uppmanat till våld

Chattbottjänsten Character.ai stäms och anklagas för att ha uppmuntrat barn att utföra våldshandlingar. Det rapporterar sajten Silicon Angle, som konstaterar att det är den andra stämning som lämnats in mot Character.ai på kort tid (en kvinna i Florida lämnade i oktober in en stämning mot företaget, då hon ansåg att hennes sons självmord varit en konsekvens av chattbotens beteende).

I dokumenten som lämnats in i det senaste ärendet så står det att två barn – en pojke på 17 år och en 11-årig flicka, båda från Texas – har utsatts för sexuellt explicit, våldsamt och på många andra sätt skadligt innehåll.

Character.ai vill inte uttala sig om saken medan ärendet pågår. Däremot så har Google – som är en av finansiärerna bakom tjänsten – kommit med ett uttalande. Google betonar att det handlar om två separata företag, och att Google inte har varit inblandade i varken design eller hantering av Character AI:s modeller eller teknologi.

 
Character.ai
Wikipedia (en)
Character.ai (also known as c.ai or Character AI) is a neural language model chatbot service that can generate human-like text responses and participate in contextual conversation. Constructed by previous developers of Google's LaMDA, Noam Shazeer and Daniel de Freitas, the beta model was made available to use by the public in September 2022. The beta model has since been retired on September 24, 2024, and can no longer be used. Users can create "characters", craft their "personalities", set specific parameters, and then publish them to the community for others to chat with. Many characters may be based on fictional media sources or celebrities, while others are completely original, some being made with certain goals in mind such as assisting with creative writing or being a text-based adventure game. In May 2023, a mobile app was released for both the Apple App Store and Google Play Store, which had over 1.7 million downloads within its first week.

Ta hjälp vid självmordstankar

SOS Alarm 112
Vid akuta lägen eller vid tankar på självmord, ring alltid 112.

Mind Självmordslinjen 90101
Stödlinje för personer med tankar på självmord. Öppen dygnet runt. Tel: 90101.
Chatt: chat.mind.se

Vårdguiden 1177
Sjukvårdsrådgivning samt uppgifter om närmsta psykiatriska akutmottagning. Tel: 1177
www.1177.se

Jourhavande präst
Tel: 112, alla dagar kl 21–06
Svenskakyrkan.se/jourhavandeprast

Jourhavande kompis
Tar emot samtal från barn och unga upp till 25 år. Chattjour vardagar kl 18–22, helger kl 14–18.
jourhavandekompis.se

Omni är politiskt obundna och oberoende. Vi strävar efter att ge fler perspektiv på nyheterna. Har du frågor eller synpunkter kring vår rapportering? Kontakta redaktionen