Ny studie om AI-smicker: ”Am I the asshole? Nejdå!”

Inställsamma AI-chattbotar kan försämra vårt omdöme, enligt en studie från Stanforduniversitetet som publiceras i Science.

I ett experiment med över 2 400 deltagare fick personer råd från antingen inställsamma eller mer uppriktiga AI-modeller, bland annat i scenarier från nätfenomenet ”Am I the asshole”, där användare beskriver personliga konflikter och frågar om de gjort fel.

De som fick bekräftande svar var betydligt mindre benägna att erkänna fel eller be om ursäkt.

Socialpsykologen Anat Perry, som inte varit inblandad i studien, tycker att vi är skrämmande dåliga på att förstå riskerna med att ta råd från AI i stället för människor.

– Ju mer vi får den här förvrängda återkopplingen, som inte ger oss verkligt motstånd från omvärlden, desto sämre blir vi på att navigera i den sociala verkligheten.