Ny AI-rapport väcker skräck: ”Kan förlora kontrollen över framtiden”
Flera AI-forskare skärper sina varningar efter en uppmärksammad rapport om hur AI kan påskynda sin egen utveckling.
Bakom rapporten står forskningsorganisationen Metr, som har fått elva veckors tillgång till AI-bolaget Anthropics interna forskningsdata. En slutsats är att nya AI-modeller nu utvecklas ungefär dubbelt så snabbt som för ett år sedan.
Resultatet aktualiserar frågan om så kallad rekursiv självförbättring (RSI), alltså att redan avancerade AI-modeller bidrar till att utveckla allt kraftfullare versioner av sig själva. I förlängningen kan det leda till en närmast explosionsartad utvecklingstakt.
En av dem som har reagerat är Eli Lifland, prognosmakare vid AI Futures Project, organisationen bakom det uppmärksammade framtidsscenariot AI 2027.
”Jag är mycket orolig för att mänskligheten kan förlora kontrollen över sin framtid inom tre till tolv månader.”
Rapporten har också väckt kritik mot Anthropic, som har maskat stora delar av underlaget. Nu höjs krav på att åtminstone USA:s kongress ska få ta del av den fullständiga rapporten, enligt podcasten Machine Gods.