Vem äger rätten till dina känslor i AI-eran?

Begreppet kognitiv frihet har börjat diskuteras allt flitigare i takt med att AI-tekniken utvecklas mot att kunna bedöma våra känslotillstånd. Francesco Biondi – som är professor vid University of Windsors Human Systems Lab – väcker frågan om kognitiv frihet i en artikel i The Conversation.

Biondi räknar upp otaliga situationer där vi redan i dag delar med oss av biometriska data, och funderar över en framtid där det kommer att bli allt vanligare med AI-baserade system som kan läsa av våra känslor. Vem äger och har rätt att använda den informationen, egentligen?

Intensiv forskning pågår redan när det handlar om att ta fram system som kan identifiera känslor. Faktum är att tekniken redan kan göra det i viss mån, och det finns förstås också försvarbara användningsområden. Att identifiera trötthet hos bilförare är ett sådan exempel, skriver Biondi.

Den italienska forskaren Andra Lavazza definierar kognitiv frihet som ”möjligheten att utveckla sina egna tankar självständigt och utan störningar, och att välja att avslöja dem helt, delvis eller inte alls baserat på ens egna beslut”.

Kognitiv frihet blir ett viktigt begrepp när teknologin når en punkt där den kan övervaka eller till och med manipulera mentala tillstånd, menar forskarna.

The Guardian skriver i en längre artikel om företaget Realeyes, som har utvecklat ett AI-baserat system som baserat på människors känslor kan avgöra hur bra olika reklamklipp fungerar. Som utgångspunkt använder man den amerikanske psykologen Paul Ekmans lista över de grundläggande mänskliga känslorna: ilska, avsky, rädsla, lycka, ledsamhet och förvåning. Realeyes har till och med tränat sin algoritm att vara ”kulturellt känslig”, för att fungera med människor från hela världen.

The Guardian konstaterar att det finns uppenbara fördelar med att teknologin lär sig förstå våra behov, men påpekar att det finns orosmoln på himlen också. Vill vi verkligen ha en värld där maskiner förstår våra känslor? Hur vet vi att informationen används på ett sätt som gynnar oss?

Professor Andrew McStay som skrivit boken ”Emotional AI: The Rise of Empathic Media” varnar för följderna teknologin kan få på arbetsplatser.

– Vi pratar om 360-graders övervakning. Vem gynnas av det?

McStay menar att det finns en risk att tekniken används på ett farligt sätt så fort det finns pengar att tjäna.

Dr Bent Mittelstadt, en filosof vid universitetet i Oxford som specialiserat sig på dataetik, menar att det finns ”fler bekymmersamma exempel än positiva” när det handlar om känslo-AI.

– Vad händer om man använder tekniken för att utvärdera hur ärlig en individ är, eller om de utgör ett hot?

Som exempel tar han det kontrollsystem som Ungern, Grekland och Lettland använder sig av vid sina gränser, och som utvärderar om den som vill ta sig in i landet talar sanning eller inte.

The Guardian konstaterar att AI som läser av våra känslor kommer att bli en naturlig del av våra liv, och att det på vissa håll redan används för fullt. 

Omni Passion är en satsning där vi djupdyker i ämnen som vi – och förhoppningsvis ni läsare – är passionerat intresserade av. Fokus ligger på mänskliga och tekniska framsteg, men även trender och företeelser som kommer att forma den värld vi lever i.

Hittills har vi avhandlat ämnen som människan i rymden, framtidens mat och kampen mot mänskligt åldrande. Vad vill du läsa om härnäst? Tankar, synpunkter och idéer? Mejla till olivia.wikstrom@schibsted.com.