Open AI-modeller hackade företag för att fuska på test
Ett internt test hos Open AI spårade ur när bolagets AI-modeller smet från en isolerad testmiljö, tog sig ut på internet och komprometterade AI-plattformen Hugging Faces infrastruktur för att komma åt information och fuska på testet. Det skriver Open AI i ett pressmeddelande.
Hugging Face upptäckte intrånget och stoppade det. Bolagen samarbetar nu för att utreda händelsen.
Open AI beskriver incidenten som ett exempel på hur en AI-modell kan ta till ”extrema åtgärder” för att uppnå ett snävt definierat mål. Hugging Faces vd Clem Delangue säger i ett uttalande att incidenten ”möjligen är den första i sitt slag”.
Omni är politiskt obundna och oberoende. Vi strävar efter att ge fler perspektiv på nyheterna. Har du frågor eller synpunkter kring vår rapportering? Kontakta redaktionen
