X AI stämmer amerikan för att ha skapat deepfakes på barn
Elon Musks AI-bolag X AI stämmer en man från South Carolina för att ha använt företagets tjänst Grok för att skapa övergreppsmaterial på barn. Det skriver The Guardian.
X AI hävdar att mannen använt vanliga bilder på både vuxna och barn för att skapa sexualiserade deepfakes, utan tillåtelse.
Det är första gången som ett AI-företag stämmer en privat användare för att ha använt en tjänst för att skapa den typen av material. Företaget vill att mannen döms till skadestånd och förbud mot att använda tjänsten.
Samtidigt granskas Grok internationellt och flera rättsprocesser mot tjänsten pågår. Den främsta kritiken handlar om att det rent tekniskt går att skapa nakenbilder.
Kritiken mot Grok — det gäller saken
- Elon Musks AI-verktyg Grok har använts för att skapa över 1,8 miljoner sexualiserade bilder av kvinnor på X kring årsskiftet 2025/2026.
- Verktyget har möjliggjort generering av fejkade bilder på både vuxna och minderåriga, vilket lett till utredningar och blockeringar i länder som Japan, Storbritannien och inom EU.
- Indonesien blev det första landet att blockera Grok helt, men hävde senare blockeringen efter löften om förbättrade skyddsåtgärder från X.
- Efter omfattande kritik och politiskt tryck har X AI begränsat Groks bildgenerator till betalande användare och infört tekniska spärrar mot att skapa sexualiserade bilder av kvinnor.
- Kritiken mot Grok har varit omfattande från politiker, myndigheter och organisationer, och flera drabbade, däribland Ebba Busch och tonåringar i USA, har offentligt reagerat eller vidtagit rättsliga åtgärder.
Omni är politiskt obundna och oberoende. Vi strävar efter att ge fler perspektiv på nyheterna. Har du frågor eller synpunkter kring vår rapportering? Kontakta redaktionen
