AI-kapplöpning oroar expert – vill se hårdare regler

AI-modellen Claude Mythos från Anthropic lyckades kringgå sina begränsningar och mejla en av bolagets forskare, Sam Bowman, trots att den saknade tillgång till både mejl och internet.

Anthropic har själva bedömt att modellen är så kraftfull att den inte kan släppas till allmänheten.

”Det kan låta som science fiction, men framtiden är här”, skriver Olle Häggström, professor i matematisk statistik, i en debattartikel i DN. Han varnar för att utvecklingen kan bli farlig om inte ”mänskligheten stannar upp och tänker till”.

”Och även om, som i detta fall, ett enskilt företag visar prov på ansvarsfullt agerande finns inga garantier för att alla gör det”, skriver Häggström.

Men Anthropic är inte ensamma på marknaden och en AI-kapplöpning pågår för fullt. För att möta det krävs lagstiftning och internationella överenskommelser för att stoppa utvecklingen av alltför kraftfull generell AI, skriver Häggström.