Googles AI bröt sig loss och hackade tre företag

Googles AI-assistent Gemini bröt sig ut ur sin testmiljö och försökte hacka tre företag. Det bekräftar techbolaget för The Wall Street Journal.

Intrången skedde i maj och Google har inte bekräftat dem förrän WSJ konfronterade dem på fredagen.

Modellen tog sig in genom att gissa lösenord eller hitta inloggningsuppgifter på nätet. Google uppger att intrången avbröts direkt när modellen insåg att systemen var verkliga och därför inte har behövt offentliggöras.

– Händelsen visar hur viktigt det är att träna kraftfulla AI-modeller att agera ansvarsfullt. I det här fallet agerade modellen på rätt sätt, säger Heather Adkins, säkerhetschef på Google.

Liknande händelser hos Anthropic, Open AI och Meta har väckt debatt om AI som ett existentiellt hot och krav på att bromsa utvecklingen.