Forskare: Myndigheters AI måste gå att förstå

Regeringen har gett myndigheter i uppdrag att använda mer AI i sin verksamhet. Det kräver dock insyn i hur AI-modellerna fungerar och resonerar, skriver tre forskare på SvD Debatt.

Enligt förvaltningslagen ska beslut som påverkar individer motiveras tydligt, med information om vilka omständigheter som ligger till grund för myndighetens beslut.

Forskarna skriver att regeringen bör betona att AI-utvecklingen ska ske med teknik och metoder som gör verktygen och deras resonemang begripliga.

”Annars riskerar vi att hamna i en situation där varken de offentliga aktörerna själva eller de individer som berörs av deras beslut förstår på vilka grunder besluten fattas.”