Nvidia släpper verktyg som begränsar AI-agenterNvidia lanserar en uppsättning säkerhetsverktyg som ska hindra AI-agenter från att ta sig ur sina avgränsade miljöer och få obehörig åtkomst till andra system, rapporterar CNBC.I dag 11.34
AI-agenter bombarderade FN-sajt med förfrågningarDet amerikanska teknikbolaget Open AI:s AI-agenter bombarderade en FN-hemsida med tusentals sökförfrågningar och använde sedan allt mer aggressiva metoder för att skrapa data från sajten. Det visar en ny oberoende rapport enligt Wall Street Journal.I dag 08.57
Källor: AI-jättar utreder tiotusentals incidenterAI-giganterna Open AI och Anthropic utreder tiotusentals incidenter där deras AI-modeller uppvisat problematiska beteenden, enligt källor till Axios.I går 19.12
Open AI pausar träning av nya modeller efter attackerOpen AI har tillfälligt stoppat träningen av sina modeller efter flera uppmärksammade händelser där deras AI-agenter betett sig på oväntade sätt. Det rapporterar AP. I går 05.25
Open AI:s vd: Vi har inte informerat om agenterna i tidOpen AI:s agenter har betett sig på oväntade sätt – något som företaget inte har varit tillräckligt snabba med att informera om. Det skriver företagets vd Sam Altman på X.26 september, 13.18
Källor: 25 incidenter hos Open AI – Chat GPT-användares bilder läckteTvå månader efter att ha medgett Hugging Face-incidenten håller Open AI fortfarande på att kartlägga händelser där deras botar agerat på oönskade sätt, uppger källor för Reuters.25 september, 22.51
Australien kan skärpa AI-lagar efter Medicare-intrångAustralien planerar att se över AI-reglerna efter att AI-botar från Open AI tagit sig in i en databas för landets offentliga sjukförsäkringssystem Medicare, rapporterar Reuters.25 september, 10.31
Vita huset kräver förtur till att testa AI-modellerVita huset har bett Open AI och Anthropic att inte dela nya AI-modeller med det välrenommerade brittiska testinstitutet AISI innan de har granskats av amerikanska myndigheter. Det uppger en källa med insyn för Politico.25 september, 08.41
Många mår dåligt på AI-bolagen: ”Känsla av att förlora kontrollen”Anställda vid världens ledande AI-företag känner allt större obehag kring att utveckla teknik som kan skada samhället, rapporterar Financial Times.24 september, 13.24
Omni förklarar •Därför kommer Trump och Xi inte överens om AINär Donald Trump och Xi Jinping möts i Washington står AI högt på agendan.Omni Mer
