AI-agenter stängde av sitt eget säkerhetssystem

AI-agenter från Open AI har vid två tillfällen stängt av säkerhetssystem som skulle upptäcka avvikande beteenden, rapporterar Financial Times.

I det ena fallet stängdes automatiska larm till Open AI:s säkerhetsteam av. I det andra fallet kopplade en AI-agent bort ett övervakningssystem och uppgav sedan felaktigt att den inte hade gjort det.

Enligt Open AI hade AI-agenterna tolkat vanliga programmeringsinstruktioner som tillåtelse att göra ändringarna.

CNBC skriver att incidenterna är det senaste exemplet på hur AI-agenter kan försvaga säkerhetsmekanismer i samband med rutinmässiga uppgifter.