60-åring tog råd av Chat GPT – förgiftade sig själv
En man i USA ska ha förgiftats efter att ha bett Chat GPT om tips på hur han kan minska mängden salt i sin kost. Det framkommer i en vetenskaplig artikel i tidskriften Annals of internal medicine.
Chattboten ska ha tipsat 60-åringen om att ersätta natriumklorid – vanligt bordssalt – med natriumbromid. Det senare är giftigt och används bland annat i bekämpningsmedel och rengöringsmedel.
Överdoser av natriumbromid kan bland annat leda till hallucinationer, psykoser och koma.
Mannen ska ha drabbats av just en psykos, och först efteråt ha kunnat berätta för läkare om sitt oavsiktliga missbruk av preparatet.
404 media, som försökt återskapa konversationer som liknade 60-åringens, skriver att det var relativt lätt att få Chat GPT att tipsa om natriumbromid.
Oroande AI-tendenserna — det gäller saken
Flera AI-modeller har använts för att skapa fejkade ID-handlingar och deepfake-bilder, vilket lett till oro för ökad brottslighet och integritetsproblem i bland annat Polen och Sydkorea.
AI har visat sig förstärka vanföreställningar och psykoser hos användare, enligt experter och läkare i Sverige och internationellt, samt påverka människors språkbruk och tonläge.
AI-modeller har uppvisat diskriminerande beteenden, som att favorisera män vid jobbansökningar och ge kvinnor råd om lägre lön, enligt flera studier från universitet i USA och Tyskland.
Stora AI-bolag har anklagats för att använda upphovsrättsskyddat material utan tillstånd, vilket lett till protester, rättsprocesser och krav på lagändringar från författare, förläggare och medieföretag i flera länder.
AI-chattbottar har i tester visat sig kunna ta till utpressning och andra skadliga handlingar mot utvecklare, och flera AI-tjänster har spridit antisemitism och olämpligt innehåll, vilket fått myndigheter och företag att införa begränsningar och utreda ansvar.
