Anthropics vd larmar: AI måste bromsas – kan ta över internet
Utvecklingen av AI måste bromsas, skriver jätten Anthropics vd Dario Amodei i ett blogginlägg. Han skriver att det alltid funnits risker kopplade till AI men att han under de senaste månaderna insett att det är dags att slå av på takten.
”Vi måste bromsa takten i utvecklingen av AI-modellerna. Utvecklingen kommer fortfarande att gå snabbt, och vi måste använda den tid vi vinner på ett klokt sätt”, skriver medgrundaren.
Det som bekymrar Amodei är att systemen nu har förmågan att förbättra sig själva, vilket gör att den mänskliga kontrollen minskar. Han pekar även på den uppmärsammade Hugging Face-incidenten, där botar bröt sig ur en testmiljö och gick till attack.
”Med tanke på den allt snabbare utvecklingen av AI:s förmågor oroar jag mig för att en sådan svärm inom sex till tolv månader skulle kunna ta över hela internet med hjälp av ett permanent botnät”, skriver Amodei.
Inlägget har snabbt fått stor spridning och bland dem som delar Amodeis slutsats finns Elon Musk.
”Dario har rätt”, skriver han på X.
