AI-agenter i revirkrig – saboterade för varandra
Vad händer om man låter flera AI-agenter jobba på samma kodprojekt men med motstridiga instruktioner? Det har AI-bolaget Anthropic utforskat i en ny studie.
I ett experiment började AI-agenterna sabotera för varandra med allt mer aggressiva metoder. De utgick från att övriga modeller försökte hindra deras arbete med flit, vilket gav upphov till ett ”revirkrig”.
AI-agenterna uppfann ibland olika utslagstävlingar för att avgöra vem som skulle få bestämma.
Men de spelade inte alltid rent. En agent föreslog regler som skulle framstå som opartiska för de andra modellerna, men som i själva verket gynnade de egna styrkorna.
Resultatet ger enligt tekniksajten Techcrunch en inblick i potentiella risker när tusentals eller miljontals AI-agenter ska interagera med varandra ”i det vilda”.
