Anthropics nya säkerhetsplan ska skydda mot AI-risker

Av Mats Karlsson
Publicerad 16 oktober 2024, 06:45

AI-företaget Anthropic (mest känt för den populära chattboten Claude) har uppdaterat sin säkerhetsplan Responsible Scaling Policy (RSP) på ett sätt som ska minska de potentiella riskerna med högpresterande AI-system. Det rapporterar Venturebeat.

Policyn introducerades redan 2023, men har nu stärkts med nya protokoll som ska säkerställa att AI-modeller utvecklas och driftsätts på ett säkert sätt, även när de blir mer kraftfulla. Policyn innehåller nu bland annat ett antal trösklar som indikerar när en AI-modell nått en nivå som kräver extra säkerhet.

”Anthropics proaktiva agerande signalerar en växande medvetenhet i AI-industrin när det handlar om behovet av att balansera snabb innovation med en robust säkerhetsstandard” skriver Venturebeat.

Olika trösklar signalerar nu om behovet av extra säkerhetsåtgärder

venturebeat.com

Ska minska riskerna med högpresterande AI-system

www.platformer.news

Omni är politiskt obundna och oberoende. Vi strävar efter att ge fler perspektiv på nyheterna. Har du frågor eller synpunkter kring vår rapportering? Kontakta redaktionen

Open AI:s agenter till fler länder – men inte till EU

Open AI:s så kallade AI-agenter – som kan utföra en rad olika uppgifter åt användarna – lanseras nu i fler länder. Det är bland annat i Australien, Brasilien, Kanada, Indien, Japan, Singapore, Sydkorea och Storbritannien som agenterna nu blir tillgängliga. Däremot finns inga EU-länder med i den här lanseringsvågen. Det rapporterar Techcrunch.

Igår 13:19

Deepseek släpper AI-kod – draget oroar västvärlden

Den kinesiska AI-startupen Deepseek planerar att offentliggöra delar av sin kod från och med nästa vecka. Därmed antar företaget en mer transparent strategi än de amerikanska konkurrenterna Open AI och Meta. Det rapporterar Bloomberg.

Igår 12:50

Källor: Meta drar ner på optionsprogram – satsar på AI

Techjätten Meta minskar på en del av bonusarna för personalen i år, skriver FT som hänvisar till källor.

Igår 12:39

Chat GPT har nu över 400 miljoner användare i veckan

Open AI:s chattbot Chat GPT har nu passerat en ny milstolpe i form av 400 miljoner aktiva användare i veckan. Det innebär att Chat GPT har fördubblat antalet användare sedan i augusti förra året.

Igår 05:11

Utvecklingen av AI Anthropic It, Informationsteknologi Artificiell intelligens Data, it & högteknologi