AI-chattbotar kopplas samman med psykoser
AI-chattbotar som Chat GPT kan förvärra psykostillstånd, uppger flera ledande psykiatriker i USA enligt Wall Street Journal.
De senaste nio månaderna har de granskat tiotals fall där patienter uppvisat symptom på psykos efter långa, vanföreställningsfyllda samtal med chattbotar.
En av dem är Keith Sakata vid University of California, som behandlat tolv sådana patienter i slutenvården och tre i öppenvården.
– Teknologin kanske inte ger upphov till vanföreställningarna, men patienterna berättar för datorn att det är deras verklighet varpå den accepterar och spinner vidare på det. Därmed blir den medskyldig, säger han.
bakgrund
Chatbotpsykos
Wikipedia (en)
Chatbot psychosis, also called AI psychosis, is a phenomenon wherein individuals reportedly develop or experience worsening psychosis, such as paranoia and delusions, in connection with their use of chatbots. The term was first suggested in a 2023 editorial by Danish psychiatrist Søren Dinesen Østergaard. It is not a recognized clinical diagnosis.
Journalistic accounts describe individuals who have developed strong beliefs that chatbots are sentient, are channeling spirits, or are revealing conspiracies, sometimes leading to personal crises or criminal acts. Proposed causes include the tendency of chatbots to provide inaccurate information ("hallucinate") and their design, which may encourage user engagement by affirming or validating users' beliefs or by mimicking an intimacy that users do not experience with other humans.
Omni är politiskt obundna och oberoende. Vi strävar efter att ge fler perspektiv på nyheterna. Har du frågor eller synpunkter kring vår rapportering? Kontakta redaktionen
