AI hittade svagheter i USA:s mest skyddade it-system
En AI-modell från Anthropic identifierade sårbarheter i några av USA:s mest skyddade it-system under tester, uppger en anonym tjänsteman för AP.
Uppgifterna tycks röra samma tester som senatorn Mark Warner hänvisade till under en utfrågning i kongressen den 11 juni. Han sa då att AI-modellen Mythos hade tagit sig in i ”nästan alla” hemliga system på ”bara några timmar”. Enligt Warner kom den informationen från Joshua Rudd, chef för USA:s signalspaningsmyndighet NSA.
Källor som New York Times har talat med tonar dock ner Warners uttalande och betonar att det handlade om kontrollerade tester i en avgränsad miljö. Enligt AP skedde de inom ramen för ”Project Glasswing”, där techbolag och andra aktörer samarbetar för att skydda kritisk infrastruktur mot hot från kraftfull AI.
Anthropics stoppade AI-modeller — det gäller saken
- Nya AI-modeller med avancerade cyberförmågor har väckt oro för snabbare och mer avancerade cyberangrepp.
- Mythos 5 och Fable 5 från Anthropic står i centrum för de senaste turerna i debatten.
- USA hävdar att Fable 5:s säkerhetsspärrar kan kringgås och har infört exportrestriktioner mot båda modellerna.
- Restriktionerna förbjuder utländska medborgare att använda tekniken, vilket lett till att Anthropic valt att stänga av modellerna för alla användare.
- Anthropic bestrider anklagelserna och menar att myndigheterna inte visat att modellerna utgör något unikt hot.
