Open AI:s trollproblem: ”Kan inte sluta prata om dem”
Open AI har lagt in ovanligt specifika instruktioner i sitt kodverktyg Codex, rapporterar Wired. Modellen får inte prata om ”gremlins, tvättbjörnar, troll, jättar, duvor eller andra djur eller varelser om det inte är tveklöst och tydligt relevant”.
Enligt Wired är det oklart varför Open AI har känt att instruktionen behövs – den har dessutom upprepats flera gånger. Det finns dock användare som vittnar om att Open AI:s modeller ibland blir besatta av troll och andra varelser och ”inte kan sluta prata om dem”, särskilt när modellerna används tillsammans med verktyget Open Claw.
Upptäckten har snabbt utvecklats till memes som visar AI-genererade bilder av troll i datacenter.
Omni är politiskt obundna och oberoende. Vi strävar efter att ge fler perspektiv på nyheterna. Har du frågor eller synpunkter kring vår rapportering? Kontakta redaktionen
