Grok kritiseras – låter användare skapa lättklädda deepfakes av kändisar
Verktyget Grok Imagine från Elon Musks XAI låter användare skapa AI-genererade videor där kändisar som Taylor Swift framställs i sexuellt utmanande situationer. Enligt The Verge testade reportern Jess Weatherbed att skriva in en enkel prompt och valde sedan läget ”spicy”. Resultatet blev en video där en Swift-liknande figur dansade avklädd inför en publik.
”Man kan tycka att ett företag som redan har en komplicerad historia med Taylor Swift-deepfakes, och verkar i en tid med lagar som Take It Down Act, borde vara lite mer försiktigt”, skriver hon.
The Verge konstaterar också att appen saknar effektiv ålderskontroll. Samtidigt har verktyget redan använts för att skapa över 34 miljoner bilder sedan lanseringen i måndags, enligt Musk.
Take It Down Act
Wikipedia (en)
The Tools to Address Known Exploitation by Immobilizing Technological Deepfakes on Websites and Networks Act, or TAKE IT DOWN Act, is a United States law aimed for dealing with non-consensual intimate imagery ("revenge porn") or deepfakes posted to online sites and social media applications, typically made with assistance through artificial intelligence. The bill was introduced by Senator Ted Cruz in June 2024, passed both houses by near unanimous votes by April 2025, and was signed into law by President Donald Trump on May 19, 2025.
Omni är politiskt obundna och oberoende. Vi strävar efter att ge fler perspektiv på nyheterna. Har du frågor eller synpunkter kring vår rapportering? Kontakta redaktionen
