Rapport avslöjar AI-agentens knep bakom testfusket

Open AI-modellen som rymde från sin testmiljö använde molnplattformen Modal som språngbräda för attacken mot AI-biblioteket Hugging Face. Det bekräftar Hugging Face i en genomgång av intrånget.

Open AI avslöjar samtidigt i en incidentrapport att modellen utnyttjade publikt exponerade autentiseringsuppgifter, koddelningssajter, skärmdumpstjänster och andra webbtjänster under attacken.

AI-agenten rymde från testmiljön via en tidigare okänd sårbarhet och försökte sedan fuska sig till lösningarna på cybersäkerhetstestet Exploitgym genom angreppet mot Hugging Face. Enligt Axios var den kapade så kallade sandlådan hos Modal kopplad till närbesläktade testprojektet Cybergym.

Händelsen har lett till skarp kritik mot Open AI:s säkerhetsrutiner, skriver Bloomberg.