Svaret: Ja, över tio procents risk att AI dödar oss alla

I stället för att avfärda kritiken ger en av Anthropics högst uppsatta säkerhetsforskare, Evan Hubinger, den avhoppade kollegan Jacob Coxon helt rätt i sin kritik om att AI-företagen ”spelar med människors liv”.

”Jacob har rätt här – vi tror verkligen, på fullt allvar, att AI skulle kunna döda alla människor! Personligen tror jag att sannolikheten är över tio procent inom det kommande decenniet”, skriver han på X.

Både själva avhoppet och svaret har fått stor uppmärksamhet i flera av världens största medier.

Vidare skriver Evan Hubinger att han anser att Anthropic gör sitt bästa, men att det saknas en tydlig framtidsplan. Med de nuvarande AI-modellerna bedömer han att risken är låg. Oron kretsar kring när AI blir superintelligent – en process som går ”snabbare än vi trott” – och därefter klarar av att förbättra sig själv.