Hem
ToppnyheterSenaste nytt
Bli medlem
ANNONS
ANNONS
Anthropic vd Dario Amodei.
Anthropic vd Dario Amodei. (Don Feria / AP)
Varningarna om AI

Anthropics vd larmar: AI måste bromsas – kan ta över internet

Av Tomas Ekelund
Publicerad: 12 sep.
ANNONS

Utvecklingen av AI måste bromsas, skriver jätten Anthropics vd Dario Amodei i ett blogginlägg. Han skriver att det alltid funnits risker kopplade till AI men att han under de senaste månaderna insett att det är dags att slå av på takten.

”Vi måste bromsa takten i utvecklingen av AI-modellerna. Utvecklingen kommer fortfarande att gå snabbt, och vi måste använda den tid vi vinner på ett klokt sätt”, skriver medgrundaren.

Det som bekymrar Amodei är att systemen nu har förmågan att förbättra sig själva, vilket gör att den mänskliga kontrollen minskar. Han pekar även på den uppmärsammade Hugging Face-incidenten, där botar bröt sig ur en testmiljö och gick till attack.

”Med tanke på den allt snabbare utvecklingen av AI:s förmågor oroar jag mig för att en sådan svärm inom sex till tolv månader skulle kunna ta över hela internet med hjälp av ett permanent botnät”, skriver Amodei.

Inlägget har snabbt fått stor spridning och bland dem som delar Amodeis slutsats finns Elon Musk.

”Dario har rätt”, skriver han på X.

ANNONS
Dario Amodei: Vi måste bromsa utvecklingen vid AI-fronten
blogg · darioamodei.com
Open AI:s chef gav nyligen uttryck för liknande tankegångar
TT
Dario is right https://t.co/EwKgqQGaUo
x.com

Läs även

Open AI: Hugging Face-incidenten och vägen framåt
blogg · openai.com
Annons
Se bredbandsabonnemang på din adress och jämför pris och hastighet
Bredbandsval
ANNONS
Omni är politiskt obundna och oberoende. Vi strävar efter att ge fler perspektiv på nyheterna. Har du frågor eller synpunkter kring vår rapportering? Kontakta redaktionen
Varningarna om AIDario AmodeiAnthropicData, it & högteknologiArtificiell intelligens

AI gav pojkar och flickor stereotypa råd

AI-verktyg ger flickor och pojkar olika råd som förstärker könsstereotyper om allt från yrkesval och löner till hälsa och utseende. Det visar en rapport från barnrättsorganisationen Plan International.

9 november, 10.55
Illustrationsbild.

AI-gudfadern varnar för ”Tjornobyl”-händelse

Artificiell intelligens kommer sannolikt att utlösa en händelse av ”Tjornobyl”-karaktär senare i år eller nästa år. Det säger Geoffrey Hinton, en pionjär inom AI som ibland kallas för ”AI:s gudfader”, till The Guardian.

4 november, 10.56
Geoffrey Hinton tilldelades Nobelpris i fysik 2024.

Anthropics ovanliga varning: AI kan hota mänskligheten

I prospektet inför börsnoteringen gör AI-jätten Anthropic något så ovanligt som att varna för att dess teknik skulle kunna orsaka katastrofer, rapporterar New York Times.

26 oktober, 20.31
Anthropic-chefen Dario Amodei. Arkivbild.

Washington börjar ledsna på AI-chefernas snack

Både demokrater och republikaner i Washington DC håller på att tröttna på AI-bolagens många utspel, rapporterar Axios. Särskilt är det Silicon Valley-höjdarnas sätt att växla mellan löften om teknikens möjligheter och varningar om existentiella risker som uppges skapa irritation.

26 oktober, 11.12
Amerikanska kongressen, 27 april.