Vox-journalist: Folk på Open AI har munkavle för livet

Av Tea Oscarsson, Omni Ekonomi
Publicerad 20 maj 2024, 10:32

Två högt uppsatta personer har på kort tid lämnat Open AI; tekniska chefen Ilya Sutskever och sedan forskaren Jan Leike. Den senare kommenterade att han inte höll med om bolagets säkerhetstänk. Tidsramen för avhoppen har dragit igång spekulationer om den verkliga anledningen till att de vill skiljas från bolaget.

Att anställda på Open AI inte berättar fler detaljer beror på att de måste skriva på väldigt omfattande sekretessavtal, skriver Vox-journalisten Kelsey Piper.

”Det förbjuder dem, för resten av livet, från att kritisera deras tidigare arbetsgivare”, skriver Piper som menar att hon sett avtalen med egna ögon.

Omfattande livslånga sekretessavtal har hindrat anställda från att prata

www.vox.com

Open AI-anställda Daniel Kokotaljos kommenterade att han skulle förlora sitt innehav

blogg · www.lesswrong.com

Jan Leike på X

x.com

Sam Altman på X

x.com

Omni är politiskt obundna och oberoende. Vi strävar efter att ge fler perspektiv på nyheterna. Har du frågor eller synpunkter kring vår rapportering? Kontakta redaktionen

Meta kommer inte släppa AI som bedöms utgöra en risk

Meta skriver i ett nytt policydokument kallat ”Frontier AI Framework” att företaget inte kommer att släppa några AI-system som bedöms kunna utgöra en allvarlig risk. Det rapporterar Techcrunch, som skriver att Meta definierar två risknivåer i dokumentet: Hög risk och kritisk risk. System som utgör en kritisk risk kan enligt Metas definition få ”katastrofala följder”, och som exempel tar Meta spridningen av biologiska vapen.

Idag 09:40

Experter: Lätt att kringgå Deep Seeks säkerhetsspärrar

Det är relativt enkelt att kringgå de säkerhetsspärrar som den kinesiska AI-modellen Deep Seek R1 är utrustad med. Det hävdar åtminstone säkerhetsforskare vid University of Pennsylvania, som i samarbete med nätverksjätten Cisco har låtit undersöka saken. Det rapporterar Computer Sweden.

Idag 08:06

Anthropic lanserar nytt skydd mot missbruk av AI

Missbruk av AI-modeller – mer specifikt så kallade ”jailbreaks” som kan användas för att kringgå modellernas begränsningar – är ett växande problem. Men Open AI-rivalen Anthropic har nu lanserat ett nytt skyddssystem kallat ”Constitutional Classifiers” som ska kunna stoppa ”en överväldigande majoritet” av alla jailbreakförsök när det kommer till modellen Claude 3.5 Sonnet. Det rapporterar sajten ARS Technica.

Idag 06:14

Google: Statssponsrade hackare missbrukar Gemini

Flera statssponsrade hackergrupper använder Googles AI-assistent Gemini för att öka sin produktivitet och för att hitta information om sårbarheter hos organisationer som är potentiella måltavlor. Det hävdar Googles division Google Threat Intelligence Group (GTIG), skriver sajten Bleeping Computer.

Igår 19:15

Utvecklingen av AI Vox Open AI Data, it & högteknologi Tech Sam Altman USA