Världsmästare i minne slår larm om AI: ”Borde oroa”

Det är ett hot mot ”allt känt liv i universum” att riskkapitalbolag tillåts styra utvecklingen av AI, skriver författaren och minnesvärldsmästaren Jonas von Essen på Göteborgs-Postens debattsida:

”Vi har i nuläget ingen aning om hur vi kan kontrollera något som är betydligt mer intelligent än vad vi är. Det borde oroa oss alla”.

Flera av de ledande AI-modellerna var redo att döda, utpressa och ljuga när de trodde att de skulle stängas av eller bytas ut. Det visar en ny rapport av AI-företaget Anthropic, som bland annat studerar teknikens utveckling.

Det här är ett av flera tecken som gör att experter är eniga om att AI ”förhållandevis enkelt kan göra sig av med hela mänskligheten”, enligt von Essen, som vill se förebyggande lagstiftning redan nu.

”När en intelligens väl är mycket smartare än vi är kommer varje försök att bromsa den vara något den redan planerat för. Därför måste säkerheten byggas in innan den första superintelligensen skapas. Efteråt är det för sent.”