Googles nya AI-modeller påstås kunna identifiera känslor

Google har lanserat en ny familj AI-modeller under namnet Paligemma 2, som uppges kunna identifiera känslor hos personer på bilder.

Techcrunch skriver att AI-företag under många år har försökt ta fram AI-modeller som kan identifiera känslolägen, men att vetenskapen bakom det hela har vilat på ett ostadigt fundament.

Sandra Wachter som är professor i dataetik vid Oxforduniversitetets internetinstitut säger till Techcrunch att hon är oroad över konceptet.

– Jag ser det som mycket bekymmersamt att tro sig kunna ”läsa av” människors känslor. Det är som att be en magisk boll om råd, säger Wachter.

Hon får i viss mån medhåll av AI-forskaren Mike Cook vid Queen Mary-universitetet.

– Identifiering av känslor är generellt sett inte möjligt, för människors upplevelse av känslor är komplex, säger Cook till Techcrunch.

Men han konstaterar samtidigt att det går att ”upptäcka generella signaler i vissa fall”.

En talesperson för Google betonar att Paligemma 2-familjen har utvärderats ordentligt när det handlar om etik och säkerhet.