Lämnar Anthropic – varnar för att AI kan förinta alla

En AI-forskare på Anthropic har väckt uppmärksamhet genom att säga upp sig i protest mot kapplöpningen mot allt kraftfullare AI. Jacob Coxon, som tidigare även har arbetat på Open AI, skriver på X att båda AI-bolagen ”spelar med människors liv”.

Enligt Coxon finns det en verklig risk att AI-systemen kan förinta mänskligheten. Redan i slutet av nästa år kan saker ha gått rejält över styr, enligt hans bedömning.

I ett uppföljande inlägg skriver Coxon att ”de som bygger AI tror verkligen att den kan döda oss alla före årtiondets slut”.

Branschen har skakats av flera säkerhetsincidenter den senaste tiden och allt kraftfullare varningar har hörts från personer inifrån bolagen. Exempelvis skrev Open AI:s forskningschef Jakub Pachocki häromdagen att ”extrem försiktighet” krävs och att ”ingen är redo på konsekvenserna” om dagens snabba AI-utveckling fortsätter.