Sagor ska ge AI-system sunda värderingar

En farhåga som många forskare och andra experter ser med AI (artificiell intelligens) och robotar i framtiden är att de skulle kunna bli farliga och rent av vända sig mot oss människor. Därför har forskarna Mark Riedl och Brent Harrison vid Georgia Tech-universitetet börjat experimentera med att mata AI-system med sagor och berättelser med alternativ händelseutveckling, där den artificiella intelligensen belönas när den tar handlingen framåt genom att välja ett etiskt sunt alternativ och bestraffas om den väljer ”fel” väg. Inspirationen till det hela har forskarna hämtat från hur barn lär sig skilja mellan rätt och fel beteende genom exempelvis sagor. Som exempel på en situation som kräver mänskliga värderingar nämner forskarna en robot som beordras skaffa medicin åt en människa ”snabbast möjligt”. Roboten kan i det läget välja att råna apoteket, försöka interagera med personalen eller rätt och slätt vänta i kön. En robot utan etisk kompass skulle välja det första alternativet, då det snabbast åstadkommer det önskade resultatet.