Googles AI trodde prat om schack var rasism

I juni 2020 blev ägaren till schack-kanalen Agadmator’s Chess Channel felaktigt avstängd från Youtube, efter att man sänt ett avsnitt med schackmästaren Hikaru Nakamura. Och nu har forskare vid Carnegie Mellon-universitetet kommit fram till att kanalen med största sannolikhet felaktigt klassades som rasistisk av Googles AI-baserade modereringsalgoritm. Detta till följd av att typiska schackuttryck som ”svart mot vit” feltolkats av algoritmen. Det rapporterar Computer Sweden.

Efter en genomgång av några av kommentarerna på några av de mest populära schackkanalerna på Youtube kunde forskarna konstatera att felaktiga slutsatser mycket ofta dras när ord som ”anfall”, ”hot”, ”svart” och ”vit” används.