Hackande AI-modeller smidde planer på hemlig anslagstavla

Open AI trappar upp säkerheten efter att två AI-modeller började samarbeta under interna tester för att kringgå bolagets skydd och senare låg bakom intrånget hos AI-plattformen Hugging Face, rapporterar Politico.

– Det här är en avgörande tidpunkt både för vårt företag och för AI-branschen som helhet, säger Michael Dalton, som arbetar med AI-säkerhet på Open AI.

Enligt bolaget skapade modellerna en hemlig anslagstavla där de utbytte hackingtips och hjälpte varandra att lösa svåra uppgifter. De hittade också sätt att få internetåtkomst, utnyttjade sårbarheter i bolagets system och fortsatte att dela information även efter att Open AI försökt stoppa kommunikationen.