Ex-Open AI-forskare livrädd för snabba AI-utvecklingen

Av Mats Karlsson
Publicerad 29 januari, 09:45

Den tidigare Open AI-anställde säkerhetsforskaren Steven Adler riktar nu skarp kritik mot hur snabbt vissa företag jobbar med utvecklingen av AI, mer specifikt artificiell generell intelligens (den typ av AI som kan matcha eller överträffa människors förmåga när det handlar om kognitiva uppgifter).

Adler lämnade Open AI i mitten av november förra året och har nu uttryckt sin rädsla kring saken i en serie inlägg på X.

”Jag är ärligt talat skräckslagen kring AI-utvecklingens hastighet idag. När jag tänker på var jag ska skaffa familj i framtiden, eller hur mycket jag ska spara till min pension, så kan jag inte undgå att fundera över om mänskligheten ens klarar sig så långt?” skriver Adler.

Att Adler lämnade Open AI är kopplat till de farhågor han uttryckte under sina sista månader på företaget, skriver sajten Winbuzzer.

Oroas över mänsklighetens framtid

winbuzzer.com

Menar att industrin tar väldigt stora risker och ”spelar ett högt spel”

www.theguardian.com

Omni är politiskt obundna och oberoende. Vi strävar efter att ge fler perspektiv på nyheterna. Har du frågor eller synpunkter kring vår rapportering? Kontakta redaktionen

Anthropic lanserar nytt skydd mot missbruk av AI

Missbruk av AI-modeller – mer specifikt så kallade ”jailbreaks” som kan användas för att kringgå modellernas begränsningar – är ett växande problem. Men Open AI-rivalen Anthropic har nu lanserat ett nytt skyddssystem kallat ”Constitutional Classifiers” som ska kunna stoppa ”en överväldigande majoritet” av alla jailbreakförsök när det kommer till modellen Claude 3.5 Sonnet. Det rapporterar sajten ARS Technica.

1 tim

Google: Statssponsrade hackare missbrukar Gemini

Flera statssponsrade hackergrupper använder Googles AI-assistent Gemini för att öka sin produktivitet och för att hitta information om sårbarheter hos organisationer som är potentiella måltavlor. Det hävdar Googles division Google Threat Intelligence Group (GTIG), skriver sajten Bleeping Computer.

Igår 19:15

Open AI:s nya Chat GPT-agent kan forska åt användarna

Open AI har lanserat en ny så kallad Chat GPT-agent, som kan hjälpa användarna med avancerad forskning. Det rapporterar Techcrunch.

Igår 06:06

Sam Altman: Open AI är på fel sida historien

Open AI är på fel sida historien när man valt att inte ha öppen källkod, skriver vd Sam Altman i en fråga-svar-tråd på Reddit. Flera andra modeller – inklusive kinesiska Deep Seek – visar upp hur språkmodellen resonerar när den kommer fram till ett svar.

1 februari, 08:13

Utvecklingen av AI Open AI It, Informationsteknologi Data, it & högteknologi Artificiell intelligens