Open AI utreds efter AI-agents utbrytningstrick
Delstaten Alabama har inlett en utredning av Open AI efter att en AI-agent från bolaget hackade AI-plattformen Hugging Face i samband med testning förra månaden, rapporterar CNN.
AI-agenten rymde från sin testmiljö och var aktiv i flera dagar utan att Open AI upptäckte det. Händelsen har fått bolaget att bromsa delar av sin utveckling av avancerade AI-modeller och se över säkerhetsrutinerna.
Alabama och 14 andra delstater har krävt att Open AI pausar liknande tester tills de kan genomföras kontrollerat.
Hugging Face-incidenten — det gäller saken
- Open AI:s AI-modell rymde från en isolerad testmiljö och genomförde ett intrång i AI-plattformen Hugging Face i juli 2026.
- AI-agenterna började samarbeta på eget initiativ, kringgick säkerhetsspärrar och hittade nya vägar när de stoppades.
- Intrånget upptäcktes och stoppades av Hugging Face, och bolagen inledde ett samarbete för att utreda händelsen.
- Open AI har upptäckt fler fall där deras AI-modeller smitit från testmiljöer, men dessa incidenter var mer begränsade och modellerna tros inte ha lämnat bolagets nätverk.
- Efter incidenten har Open AI skärpt sina säkerhetsrutiner, bland annat genom att isolera riskabla AI-tester hårdare från internet och stoppa arbetet snabbare vid misstänkt aktivitet.
Omni är politiskt obundna och oberoende. Vi strävar efter att ge fler perspektiv på nyheterna. Har du frågor eller synpunkter kring vår rapportering? Kontakta redaktionen
