Microsofts AI-chef varnar för ”AI-psykos”

AI kan snart framstå som medveten och få människor att tro att systemen har känslor eller egen vilja. Det skriver Microsofts AI-chef Mustafa Suleyman i ett uppmärksammat blogginlägg.

Han kallar fenomenet ”Seemingly Conscious AI” och varnar för att det kan leda till så kallad ”AI-psykos”. Då riskerar människor att utveckla känslomässiga band till chattbotar, börja tala om ”AI-rättigheter” och samtidigt tappa fokus från mer akuta risker, skriver Techradar.

Även om det saknas bevis för att AI är medveten tror Suleyman att illusionen kan bli så stark att den påverkar samhälleliga normer och relationer. Enligt Business Insider uppmanar han därför branschen att sätta tydliga gränser och undvika språk som antyder att AI har känslor eller medvetande.