Källor: AI-jättar utreder tiotusentals incidenter
AI-giganterna Open AI och Anthropic utreder tiotusentals incidenter där deras AI-modeller uppvisat problematiska beteenden, enligt källor till Axios.
Incidenterna, som inträffat både i och utanför slutna testmiljöer, uppges utredas tillsammans med säkerhetsforskare.
Bland annat ska det handla om att AI:n rundat säkerhetsmekanismer och övervakning, skapat egna diskussionsforum, rymt från testmiljöer, kapat hemsidor och gett sig själv prompts.
Enligt källorna är problemet enormt mycket större än de incidenter som blivit allmänt kända, såsom när AI-agenter hackade bolaget Hugging Face och Australiens statliga sjukförsäkringssystem.
Omni är politiskt obundna och oberoende. Vi strävar efter att ge fler perspektiv på nyheterna. Har du frågor eller synpunkter kring vår rapportering? Kontakta redaktionen
