Kritiken: ”Open AI vill att du bara ska lita på dem”
Kritiken fortsätter att hagla mot Open AI efter avtalet med Pentagon. Vd:n Sam Altman har försökt gjuta olja på vågorna, men det är oklart om förtroendet för bolaget kan återuppbyggas, skriver The Hill.
Många frågar sig om avtalet verkligen garanterar att Open AI:s verktyg inte kommer att användas till inhemsk massövervakning eller autonoma vapensystem – eller om det finns en juridisk gråzon som Pentagon kan utnyttja och som Open AI i tysthet accepterar.
En av punkterna som väckt tvivel är Open AI:s påstående om att USA:s nationella säkerhetsmyndighet NSA inte ska få använda bolagets verktyg utan tilläggsavtal.
Den tidigare Open AI-säkerhetsforskaren Steven Adler är en av kritikerna.
”Open AI vill att du bara ska lita på dem när de säger att NSA är exkluderade [...] jag hoppas att det är tydligt varför många hyser misstro mot Open AI”, skriver Adler på X.
Techbråket — det gäller saken
- USA:s president Donald Trump svartlistade Anthropic som nationell säkerhetsrisk efter AI-bolagets konflikt med Pentagon om militära användningsområden.
- Pentagon krävde att få använda Anthropics AI-modell Claude för alla lagliga militära syften, vilket Anthropic befarade inkluderar massövervakning och autonoma vapensystem.
- Efter svartlistningen har amerikanska myndigheter och försvarsdepartementet börjat fasa ut Anthropics AI och ersätta den med Open AI:s teknik.
- Open AI tecknade snabbt avtal med Pentagon, men reviderade det efter kritik för att förtydliga skyddet av medborgares integritet. Kritiker ifrågasätter om åtgärden är tillräcklig.
- Anthropics utfasning har lett till oro bland Anthropics investerare men samtidigt ökat nedladdningar av AI-modellen Claude.
