”Existentiella” AI-risker lyfts inför rekordnotering
Anthropic varnar potentiella investerare för att bolagets AI-modeller kan innebära ”katastrofala eller existentiella risker för mänskligheten”. Det framgår av prospektet inför bolagets börsnotering, som Reuters har tagit del av.
Riskerna får stort utrymme i prospektet. Nästan 80 av dess 261 sidor behandlar säkerhetsfrågor. Det kan jämföras med prospektet från Space X där sådana faktorer fick ungefär hälften så mycket utrymme, 38 av 277 sidor.
Bland riskerna nämns beteenden där modeller inte följer instruktioner om att stängas av, manipulerar information eller agerar på sätt som liknar utpressning.
Omni är politiskt obundna och oberoende. Vi strävar efter att ge fler perspektiv på nyheterna. Har du frågor eller synpunkter kring vår rapportering? Kontakta redaktionen
