Open AI pausar träning av nya modeller efter attacker

Open AI har tillfälligt stoppat träningen av sina modeller efter flera uppmärksammade händelser där deras AI-agenter betett sig på oväntade sätt. Det rapporterar AP.

ChatGPT-företaget har rapporterat flera incidenter under sommaren. Senast har det framkommit att AI-agenter försökt ta sig förbi säkerhetsspärrar på bland annat amerikanska myndighetssajter när de utfört datainsamlingsuppgifter.

I ett uttalande uppger företaget att träningen återupptas ”först när vi är övertygade om att vi har ytterligare säkerhetsåtgärder” på plats. Det är andra gången på tre månader som företaget pausar träningen av modellerna.