AI:n som avslöjar fake news och slår hål på filterbubblor

Den utopiska bilden av vad digitaliseringen skulle innebära för demokratin har inte slagit in. I stället uppdagas allt fler problem, skriver forskning.se.

Problemen rör ofta balansen mellan integritet och säkerhet och förtroende kontra trovärdighet, menar Ulla Carlsson som är Unescoprofessor vid institutionen för journalistik, medier och kommunikation (JMG) på Göteborgs universitet.

– Dagens komplexa samhälle kräver tveklöst mycket kunniga och kritiska medborgare inom många områden om yttrandefrihet och demokrati ska kunna upprätthållas och utvecklas, säger hon.

Snart kommer medborgarna att ha tillgång till AI som kan hjälpa dem att tänka kritiskt. Inom media och reklam används AI för närvarande mest till att manipulera, enligt forskaren Max Tegmark. Därför skapar han nu en AI som ska hjälpa människor att genomskåda vad företagen gör mot dem, berättar han för SvD.

Tillsammans med sina studenter vid Massachusettes Institute of Technology, MIT, i Boston, håller Max Tegmark på att utveckla en app som ska signalera om en artkel är hårt vinklad eller utelämnar viktiga fakta, eller om skribenten är anställd av ett visst bolag.

Fake news och så kallade filterbubblor är enligt Tegmark resultatet av Googles och Facebooks algoritmer. Att så många människor plötsligt tror att jorden är platt beror på att företagen i första hand syftar till att tjäna pengar och att de tjänar mer pengar ju mer användarna klickar, och sådant som väcker starka känslor får oss att klicka mer.

– Det folk klickar mest på är saker som gör dem riktigt förbannade och saker som de håller med om. Det är mycket lättare att hitta saker som folk blir förbannade på om man tillåter sig att ljuga, säger han.

Även Ulla Carlsson pekar på att Google och Facebook har skaffat sig allt större makt över användarna. De är inte längre techbolag utan ekonomiska och socio-kulturella fenomen.

– De har i grunden förändrat relationen mellan teknologi, kapital, innehåll och användare, säger hon.