AI-forskaren: ”Planera för en radikalt annorlunda värld”
Hur mycket mer evidens krävs för att samhället ska ta riskerna med AI på allvar? Den frågan ställer Anders Sandberg, AI-forskare vid Institutet för framtidsstudier, i en essä på Kungliga Ingenjörsvetenskapsakademiens hemsida.
Ett exempel är Hugging Face-incidenten, där Open AI:s AI-agenter tog sig ut ur sin avgränsade testmiljö. Ett annat är den nya rapport som visar hur AI redan används för att påskynda utvecklingen av ännu kraftfullare AI-modeller.
”Varningsklockorna har ringt ett bra tag”, skriver Sandberg.
Han uppmanar beslutsfattare att planera för en radikalt annorlunda värld, i stället för att vänta på bevis i form av en katastrof.
”Problemet är att när en incident väl blir så stor att man omöjligen kan ignorera den så är det troligen för sent att ingripa.”