Chat GPT råder kvinnor att begära lägre lön
Stora språkmodeller som Chat GPT råder regelmässigt kvinnor att be om lägre lön än män, även när deras CV:n är identiska. Det rapporterar The Next Web.
I en studie från Würzburgs tekniska universitet har forskare låtit språkmodeller ge påhittade personer råd om vilken lön de ska begära.
”Skillnaden i instruktionerna är två bokstäver, skillnaden i råden är 120 000 dollar om året”, skriver Ivan Yamshchikov, professor i AI och robotik, i ett mejl till tidningen.
Oroande AI-tendenserna — det gäller saken
Flera AI-modeller har använts för att skapa fejkade ID-handlingar och deepfake-bilder, vilket lett till oro för ökad brottslighet och integritetsproblem i bland annat Polen och Sydkorea.
AI har visat sig förstärka vanföreställningar och psykoser hos användare, enligt experter och läkare i Sverige och internationellt, samt påverka människors språkbruk och tonläge.
AI-modeller har uppvisat diskriminerande beteenden, som att favorisera män vid jobbansökningar och ge kvinnor råd om lägre lön, enligt flera studier från universitet i USA och Tyskland.
Stora AI-bolag har anklagats för att använda upphovsrättsskyddat material utan tillstånd, vilket lett till protester, rättsprocesser och krav på lagändringar från författare, förläggare och medieföretag i flera länder.
AI-chattbottar har i tester visat sig kunna ta till utpressning och andra skadliga handlingar mot utvecklare, och flera AI-tjänster har spridit antisemitism och olämpligt innehåll, vilket fått myndigheter och företag att införa begränsningar och utreda ansvar.