”Värre än undergång” – AI i händerna på fel regim

Av Rakel Lennartsson
Publicerad 28 november 2020, 06:30

18 av världens 20 mest övervakade städer ligger i Kina. Men på plats nummer tre finns London, skriver BBC i ett reportage om ett öde värre än mänsklighetens undergång, nämligen en global totalitär regim som möjliggörs genom AI. Dystopin är hämtad från rapporten ”Existential Risk – Diplomacy and Governance” från 2017.

En del forskare skiljer mellan snäv AI och generell AI, förklarar Vox i en lång artikel. Snäv AI är vad vi åsyftar när vi pratar om tillämpad AI i dag, det vill säga mjukvarurobotar som är bättre än människor på att utföra vissa specifika uppgifter, som att spela schack, generera bilder eller diagnostisera cancer.

Generell AI finns ännu inte, men den snäva AI:n blir allt mindre snäv, skriver Vox. Enligt Future of Life Institute bedömer forskarna att generell AI bara är några decennier bort. Det handlar om en AI som kommer att kunna utföra alla sorters kognitiva uppgifter bättre än människan. Därför, menar Future of Life Institute, är den brännande frågan ”hur vi kan skörda frukterna av generell AI utan att bli ersatta av den, eller värre – ersatta över huvud taget”.

Skillnaden mellan Storbritannien och Kina, skriver BBC, är inte så mycket vilken teknologi de använder, som hur de använder den. Vad skulle hända om det blev olagligt att kritisera regeringen eller tro på vissa religioner, frågar sig skribenten retoriskt. Tekniken för att övervaka oss finns redan och med hjälp av AI kan data om oss genomsökas snabbare än någonsin tidigare.

Förutom att öka kraften i en regims övervakning, underlättar AI spridningen av falsk information – ett annat beprövat vapen i händerna på totalitära regimer. AI som fabricerar politiska budskap och algoritmer som kan målgruppsanpassa budskapet på sociala medier skulle göra propagandan än mer övertygande och underminera vår ”epistemologiska trygghet” – förmågan att avgöra vad som är rätt och fel.

BBC-artikeln liknar AI vid atombomben. Tre år innan den första atomreaktionen, trodde inte ens vetenskapsmännen som arbetade med det att de skulle lyckas. Detsamma kan gälla för AI, och utvecklingen och användandet av AI kan behöva kontrolleras av ett internationellt organ, precis som sker med atomenergin.

Läs BBC:s långa artikel här

BBC

Vox artikel som förklarar vad AI är och vad som är så farligt med AI

www.vox.com

Läs allt om AI från Future of Life Institute

futureoflife.org

bakgrund

International Atomic Energy Agency

Wikipedia (en)

The International Atomic Energy Agency (IAEA) is an international organization that seeks to promote the peaceful use of nuclear energy, and to inhibit its use for any military purpose, including nuclear weapons. The IAEA was established as an autonomous organisation on 29 July 1957. Though established independently of the United Nations through its own international treaty, the IAEA Statute, the IAEA reports to both the United Nations General Assembly and Security Council. The IAEA has its headquarters in Vienna, Austria. The IAEA has two "Regional Safeguards Offices" which are located in Toronto, Canada, and in Tokyo, Japan. The IAEA also has two liaison offices which are located in New York City, United States, and in Geneva, Switzerland. In addition, the IAEA has laboratories and research centers located in Seibersdorf, Austria, in Monaco and in Trieste, Italy.The IAEA serves as an intergovernmental forum for scientific and technical co-operation in the peaceful use of nuclear technology and nuclear power worldwide. The programs of the IAEA encourage the development of the peaceful applications of nuclear energy, science and technology, provide international safeguards against misuse of nuclear technology and nuclear materials, and promote nuclear safety (including radiation protection) and nuclear security standards and their implementation. The IAEA and its former Director General, Mohamed ElBaradei, were jointly awarded the Nobel Peace Prize on 7 October 2005. The current Director General is Rafael Grossi, an Argentinian diplomat who previously served as an IAEA's chief of cabinet, whose appointment was approved at the special session of the IAEA's General Conference on 2 December 2019, as the successor of Yukiya Amano, who died in July 2019.

Rapport: ”Existential Risk – Diplomacy and Governance”

www.fhi.ox.ac.uk

Omni är politiskt obundna och oberoende. Vi strävar efter att ge fler perspektiv på nyheterna. Har du frågor eller synpunkter kring vår rapportering? Kontakta redaktionen

Kina visar vägen för framtidens sociala medier

Att sociala medier har haft en enorm påverkan på världen och våra liv råder det inget tvivel om. Men det har varit en turbulent resa, och synen på sociala medier har kommit att förändras fundamentalt på vägen. Och det här – menar många experter – är någonting som kommer att påverka hur sociala medier ser ut i framtiden.

Fler aktörer, men samma skärmtid är en av de förutspåelser som experterna gör.

Hon kräver att techjättarna ska visa sina algoritmer

Det brukar sägas om stora systemviktiga företag, som exempelvis banker, att de är ”too big to fail”. Nu parafraseras uttrycket av Financial Times Brysselkorrespondent Javier Espinoza. Google, Amazon och Facebook har enligt EU blivit ”too big to care”, säger han.

Internet – lika självklart som elektricitet om 20 år

Internet i dag har utöver vissa tekniska grundprinciper inte särskilt mycket gemensamt med det internet som många av oss stiftade bekantskap med i mitten av 1990-talet. Men står internet inför en lika stor förändring under de kommande åren?

I framtidens uppkopplade värld interagerar vi med allt som finns runt omkring oss.

Shopping efter butiksdöden – upplevelsen i centrum

När man blickar mot framtidens shopping syns två diametralt motsatta trender. Den ena: Ultramodern, livestreamad videoshopping där influencers säljer varor (och sig själva?) till ständigt uppkopplade generation Z.

Passion | Vår digitala framtid Forskning & vetenskap Övervakning Artificiell intelligens Data, it & högteknologi Robotar Automatisering Maskininlärning