Hem
Anthropics vd Dario Amodei.
Anthropics vd Dario Amodei. (Shutterstock)

Ny AI-rapport väcker skräck: ”Kan förlora kontrollen över framtiden”

Flera AI-forskare skärper sina varningar efter en uppmärksammad rapport om hur AI kan påskynda sin egen utveckling.

Bakom rapporten står forskningsorganisationen Metr, som har fått elva veckors tillgång till AI-bolaget Anthropics interna forskningsdata. En slutsats är att nya AI-modeller nu utvecklas ungefär dubbelt så snabbt som för ett år sedan.

Resultatet aktualiserar frågan om så kallad rekursiv självförbättring (RSI), alltså att redan avancerade AI-modeller bidrar till att utveckla allt kraftfullare versioner av sig själva. I förlängningen kan det leda till en närmast explosionsartad utvecklingstakt.

En av dem som har reagerat är Eli Lifland, prognosmakare vid AI Futures Project, organisationen bakom det uppmärksammade framtidsscenariot AI 2027.

”Jag är mycket orolig för att mänskligheten kan förlora kontrollen över sin framtid inom tre till tolv månader.”

Rapporten har också väckt kritik mot Anthropic, som har maskat stora delar av underlaget. Nu höjs krav på att åtminstone USA:s kongress ska få ta del av den fullständiga rapporten, enligt podcasten Machine Gods.

bakgrund
 
Rekursiv självförbättring
Wikipedia (sv)
Rekursiv självförbättring (engelska: recursive self-improvement, RSI) är en process där system för artificiell generell intelligens (AGI) kontinuerligt skriver om och förbättrar sin egen källkod. Detta skapar en iterativ förbättringsloop som teoretiskt sett kan leda till en intelligensexplosion och resultera i en superintelligens. Utvecklingen av sådana system väcker stora frågor kring AI-säkerhet och etik, eftersom de skulle kunna utvecklas på oförutsedda sätt och snabbt överträffa mänsklig kontroll och förståelse.
Omni är politiskt obundna och oberoende. Vi strävar efter att ge fler perspektiv på nyheterna. Har du frågor eller synpunkter kring vår rapportering? Kontakta redaktionen