Anthropics ovanliga varning: AI kan hota mänskligheten

I prospektet inför börsnoteringen gör AI-jätten Anthropic något så ovanligt som att varna för att dess teknik skulle kunna orsaka katastrofer, rapporterar New York Times.

Bland riskerna nämns att människor förlorar kontrollen över AI eller att tekniken missbrukas av auktoritära regimer. Utan tillräckliga säkerhetsåtgärder kan avancerad AI till och med innebära existentiella risker för mänskligheten, skriver bolaget.

Anthropic varnar också för att man kan förlora insynen i sin egen AI-utveckling när dess verktyg Claude får en allt större roll, vilket kan göra processerna ”svåra för enskilda människor eller grupper att förstå och kontrollera”.

Vd:n Dario Amodei har tidigare varnat för riskerna med AI och uppmanade förra månaden till att bromsa utvecklingen.