”Mänskligheten på väg att få ofattbar makt med AI – vi är knappast redo”
Dario Amodei, vd för AI‑bolaget Anthropic, varnar för att mänskligheten står inför en avgörande prövning när artificiell intelligens snabbt blir allt kraftfullare. I en 20 000 ord lång essä beskriver han hur tekniken kan innebära existentiella risker på bara några års sikt.
”Mänskligheten är på väg att få tillgång till närmast ofattbar makt, och det är djupt oklart om våra sociala, politiska och teknologiska system är mogna nog att hantera det.”
En av riskerna som Amodei lyfter är möjligheten för enskilda individer att utveckla biologiska vapen som kan döda miljoner människor och ”i värsta fall utplåna allt liv på jorden”.
”Den störda ensamvarg som vill döda människor men saknar disciplinen eller kunskapen för att göra det kan nu lyftas till samma kapacitetsnivå som en framstående virusforskare”.
Financial Times konstaterar att essän är en kraftfull varning från en av AI-branschens mäktigaste entreprenörer.
