AI-experter och forskare fördömer rasistisk algoritm

Över 1 000 AI-experter och akademiker från Google och Microsoft samt universiteten MIT och Harvard går nu i ett öppet brev ut och fördömer ett koncept med en algoritm som påstås kunna förutspå brottsbenägenhet genom att analysera människors ansikten. Detta då man anser att algoritmen är rasistisk. Gruppen vill nu stoppa förlaget Springers publicering av en artikel om algoritmen där det uppges att systemet har en träffsäkerhet på 80 procent och inte bygger på några fördomar.

Gruppen menar att den data som ligger till grund för systemet reflekterar hur rättssystemet används idag, och att det därmed ”oundvikligen blir ett eko av de fördomar och fundamentala felaktigheter som redan förekommer”.

En liknande artikel fördömdes även 2017 av en grupp experter på maskininlärning, som menade att konceptet med att använda data om tidigare dömda bara skapar en feedbackloop som rättfärdigar ett fokus på redan marginaliserade och oproportionerligt utsatta grupper.