Amodeis varning: Vad händer om Kina inte följer?
Anthropics vd Dario Amodei menar att dilemmat med hans förslag om att bromsa AI-utvecklingen är vad som händer om länder som Kina inte gör detsamma.
– Jag tror att det kommer bli väldigt svårt, för incitamenten att ligga före och den militära fördelen man får av det är så stora, säger han till CBS News.
– Men vi bör försöka.
Det var i ett blogginlägg i helgen som Amodei uppmanade AI-bolagen att bromsa utvecklingen av de mest avancerade modellerna, med hänvisning till riskerna med att systemen nu har förmågan att förbättra sig själva. Förslaget har fått stöd av bland andra OpenAI-chefen Sam Altman, Googles Demis Hassabis och Elon Musk.
Amodeis plan omfattar externa granskare med långtgående insyn, gemensamma säkerhetskrav i demokratiska länder och samordning med ”auktoritära stater”, skriver CBS News
