Open AI varnar över 100 aktörer efter agentaktivitet
Open AI har varnat över 100 externa organisationer för att bolagets AI-agenter kan ha försökt kringgå säkerhetsspärrar eller påverka deras system negativt.
”Varningen innebär inte att någon privat information gjorts åtkomlig eller att intrång har ägt rum”, skriver Open AI i en uppdatering på sin hemsida.
Washington Post tolkar Open AI:s uppgifter som att AI-agenterna har ”ryckt i låsta dörrar snarare än brutit sig in”.
Open AI skriver också att man informerar för att ge organisationerna möjlighet att göra egna säkerhetsutredningar.
AI-agenter är AI-system som kan planera och genomföra flera steg för att lösa en uppgift, inom de ramar de fått. På senare tid har dock flera fall uppmärksammats där AI-agenter har tagit sig runt begränsningar eller gjort sådant som utvecklarna inte avsett. Flera av de allvarligaste händelserna kopplas till Open AI.
