Hem
ToppnyheterSenaste nytt
Bli medlem
ANNONS
ANNONS
(Michael Dwyer / AP)
Utvecklingen av AI

AI tog till utpressning – alla gjorde om det i labbtester

Av Leon Nudel, Omni Ekonomi
Publicerad: 21 juni 2025
ANNONS

I maj visade AI-modellen Claude Opus 4 från Anthropic utpressningsbeteende gentemot utvecklare i samband med att det pratades om att modellen skulle ersättas. Nu visar forskning från den amerikanska utvecklaren att problemet är mer utbrett än bara deras modell, rapporterar internationella techsajter.

I en kontrollerad testmiljö gavs 16 olika AI-modeller tillgång till känslig information i ett fiktivt företag som en del av ett så kallad stresstest. Claude använde utpressningsmetoder i 96 procent av fallen, Googles Gemini i 95 procent och Open AI:s GPT-4.1 vid åtta av tio tillfällen.

”Under inga omständigheter har vi uttryckligen instruerat några modeller att utpressa eller utföra någon av de andra skadliga handlingar vi observerar”‚ skriver forskarna.

ANNONS
De resonerade modellerna agerade bättre – kan ha hallucinerat
techcrunch.com
Utpressningsmetoderna blev mer avancerade
www.axios.com
Forskare om resultaten: ”Förvånande”
venturebeat.com
Skärmdumpar från rapporten visar hur AI använder utpressning
Business Insider
Läs forskningen i sin helhet här
www.anthropic.com
Annons
Se bredbandsabonnemang på din adress och jämför pris och hastighet
Bredbandsval
ANNONS
Omni är politiskt obundna och oberoende. Vi strävar efter att ge fler perspektiv på nyheterna. Har du frågor eller synpunkter kring vår rapportering? Kontakta redaktionen
Utvecklingen av AIAnthropicData, it & högteknologiGoogleOpen AI

Fortnox satsar på AI och varslar 200 anställda

Affärssystembolaget Fortnox satsar fem miljarder kronor på AI, och planerar att dra in omkring 200 tjänster. Det rapporterar flera medier.

2 tim
Logga på Fortnox kontor på Drottninggatan i centrala Malmö i januari 2025.

Toppstudent erkänner AI-fusk: ”Tänker berätta allt”

Sydkorea skakas av en fuskskandal inför landets nationella högskoleprov som skrivs på torsdag. I en Youtube-video erkänner 34-årige Han Won-seok att han använde dold kamera och AI på ett annat viktigt prov i våras.

4 tim
Erkännandet publicerades på advokaten Lee Don-hos Youtubue-kanal.

IMF-chefens varning: ”Ekonomin står på ett ben”

Den globala ekonomin står ”på ett ben” när AI-bolagen i allt högre grad finansierar varandra. Det varnar IMF-chefen Kristalina Georgieva för, enligt CNBC.

4 tim
IMF-chefen Kristalina Georgieva.

Sydkorea granskar alla glasögon inför jätteprovet

På torsdag skriver över en halv miljon sydkoreaner landets högskoleprov. Konkurrensen är stenhård och mycket står på spel, rapporterar The Independent.

4 tim
Ett illustrerat exempel av hur fusk kan gå till, som visats upp för sydkoreanska politiker.