Techjättars ramverk ska stoppa AI-attacker

Den icke vinstdrivande organisationen MITRE har tillsammans med bland annat Microsoft, IBM, Nvidia, Airbus och Bosch tagit fram ett ramverk som ska förhindra attacker på maskininlärningssystem. Det rapporterar Venturebeat.

Ramverket är svaret på ett växande problem med hackare som lurar AI-baserade system som analyserar data genom att injicera vilseledande information som leder till felaktiga slutsatser.

Tanken med ramverket är att man ska kunna testa AI-systemens motståndskraft genom att simulera den typen av attacker.