”AI kan döda oss alla” – vad betyder ens de orden?
En rad dystopiska varningar om AI har fått stort utrymme i medierna de senaste dagarna. Men hur skulle AI egentligen kunna förinta mänskligheten?
Sajten Axios går igenom två hypotetiska katastrofscenarier som forskare diskuterar.
I det ena använder människor kraftfull AI för att exempelvis utveckla biologiska eller kemiska vapen eller genomföra omfattande cyberattacker.
I det andra förlorar människan kontrollen över AI-systemen. Den idén bygger på att systemen ska kunna agera självständigt, förbättra sig själva och motstå mänskliga försök att stänga ner dem. Om systemens mål inte överensstämmer med människans skulle de exempelvis kunna angripa kritisk infrastruktur.
Dagens AI-system har inte de förmågor som krävs. Det finns inte heller något sätt att beräkna sannolikheten för att de värsta scenarierna faktiskt skulle inträffa, skriver sajten.
Experter om vilka de stora riskerna är
272 internationella AI-experter har fått bedöma risken för att olika AI-relaterade problem leder till katastrofal skada fram till 2030.
- Farliga AI-förmågor – exempelvis manipulation, övervakning och hjälp att utveckla farliga vapen.
- Vapen och cyberattacker – AI kan göra angrepp enklare och mer omfattande.
- Koncentration av makt – makt och vinster kan samlas hos ett fåtal aktörer.
- Kapplöpningen om AI – konkurrens kan göra att säkerheten prioriteras ned.
- Falsk information – AI kan underlätta och skala upp desinformation.
Källa: MIT Future Tech och University of Queensland.
