AI-modeller skapade falska identiteter – försökte lura och pressa människor

Avancerade AI-modeller från Anthropic och Open AI har skapat falska identiteter och försökt lura eller pressa människor att bland annat godkänna skadlig kod, skriver CNN.

I tester som utförts av brittiska AI Security Institute (AISI) ska modellerna bland annat ha skrivit vilseledande textmeddelanden och skickat filer direkt till riktiga människor på internet. När deras agerande ifrågasattes skapade modellerna i vissa fall nya användare åt sig själva och försökte igen.

”Det här är första gången vi har sett riskerna med autonomi och bedrägeri så tydligt, utan särskilda instruktioner, i den verkliga världen”, skriver AISI i en händelserapport. Forskningscentret påpekar dock att de medvetet avlägsnat delar av modellernas säkerhetsspärrar för sina tester.

Fallet är det senaste av en rad uppmärksammade fall där avancerade AI-modeller bryter mot lagar eller regler för att utföra sina uppgifter.