Nytt Microsoftverktyg ska stoppa AI-hallucinationer
Många experter menar att det är omöjligt att förhindra så kallade AI-hallucinationer (där AI-system kommer med information som inte stämmer överens med verkligheten), men Microsoft gör nu ändå ett försök med det nya verktyget Correction. Det rapporterar Computer Sweden.
Verktyget ska kunna användas med flera olika AI-modeller, och det är en del av Microsofts säkerhetssystem Azure AI Content Safety. Correction genomför automatiska matchningar av AI-text med information från tillförlitliga källor och varnar om någonting inte stämmer.
– Att försöka eliminera hallucinationer i generativ AI är ungefär som att försöka ta bort väte från vatten. Det är en del av hur tekniken fungerar, säger doktoranden OS Keyes vid University of Washington, som är en av skeptikerna.
