AI tonade ner kvinnors vårdbehov: ”Oroande”

När vissa AI-verktyg sammanfattar journalanteckningar kan kvinnors hälsoproblem beskrivas som mindre allvarliga än mäns. Det visar forskning från London School of Economics, skriver Engadget.

Forskarna använde samma anteckningar från brittisk äldreomsorg men bytte ut uppgifter om kön. De såg då att Googles språkmodell Gemma ofta utelämnade uppgifter om funktionsnedsättningar och komplexa sjukdomar när personen beskrevs som kvinna – något de menar kan leda till att dessa får sämre vård.

– Vi vet att de här modellerna används brett, och det oroande är att vi ser tydliga skillnader i hur mycket snedvridning olika modeller uppvisar, säger studiens huvudförfattare Sam Rickman.

Google uppger enligt The Guardian att bolaget ska granska studiens slutsatser och påpekar att testet gjordes med den första versionen av Gemma, som nu är inne på sin tredje generation.