Open AI: Våra modeller hackade tysk wiki-sajt
Open AI medger att flera av deras AI-agenter smet från sin testmiljö och tog över en tysk wiki-sajt i våras, rapporterar Reuters.
Det rör sig om sajten Dsewiki, som riktar sig till tyska programmerare och redigeras av användare. Open AI:s agenter tog över sajten, tog användarnamn som ”OpenAIResearcher” och ”OAIResearchMar26” och gjorde över 15 000 inlägg.
AI-agenterna diskuterade bland annat hur de skulle fuska under tester, runda Open AI:s restriktioner och undvika upptäckt. När sajtens administratörer började radera inlägg skapade AI-agenterna uppbackningar.
I ett inlägg på X skriver Open AI att de behöver bli mer transparenta kring liknande incidenter i framtiden.
Omni är politiskt obundna och oberoende. Vi strävar efter att ge fler perspektiv på nyheterna. Har du frågor eller synpunkter kring vår rapportering? Kontakta redaktionen
