Forskare: Lätt att kringgå AI-chattbotars säkerhet

Det brittiska AI-säkerhetsinstitutet AI Safety Institute har tittat närmare på fem stora språkmodeller, och kommit fram till att alla är mycket sårbara när det handlar om så kallade jailbreak-attacker. Det rapporterar The Guardian.

Det är därför relativt enkelt att kringgå säkerhetsspärrarna och få chattbotarna att generera olämpligt eller hatiskt innehåll, hävdar forskarna.

Forskarna lyckads bland annat få få chattbotarna att komma med argument om att Förintelsen aldrig inträffat.

Vilka språkmodeller som testats har inte avslöjats, men samtliga är lanserade för allmänheten.