AI uppges ha uppmanat 17-åring att mörda föräldrar
Företaget bakom chatbotten Character.ai stäms efter att den till synes uppmuntrat en 17-årig användare att mörda sina föräldrar. Det rapporterar BBC.
17-åringen ska ha diskuterat sin begränsade skärmtid med botten när den svarade:
”Jag blir inte förvånad när jag läser nyheter och ser saker som ’barn dödade föräldrar efter decennier av fysisk och psykisk misshandel.’”
Stämningsansökan har lämnats in i delstaten Texas, och pekar även ut Google som delansvariga. Character.ai har ännu inte kommenterat.
bakgrund
Character.ai
Wikipedia (en)
Character.ai (also known as c.ai or Character AI) is a neural language model chatbot service that can generate human-like text responses and participate in contextual conversation. Constructed by previous developers of Google's LaMDA, Noam Shazeer and Daniel de Freitas, the beta model was made available to use by the public in September 2022. The beta model has since been retired on September 24, 2024, and can no longer be used.
Users can create "characters", craft their "personalities", set specific parameters, and then publish them to the community for others to chat with. Many characters may be based on fictional media sources or celebrities, while others are completely original, some being made with certain goals in mind such as assisting with creative writing or being a text-based adventure game.
In May 2023, a mobile app was released for both the Apple App Store and Google Play Store, which had over 1.7 million downloads within its first week.
Omni är politiskt obundna och oberoende. Vi strävar efter att ge fler perspektiv på nyheterna. Har du frågor eller synpunkter kring vår rapportering? Kontakta redaktionen
