Forskare lär robotar vägra ta order från människor

Forskare i Massachusetts jobbar för närvarande på att lära robotar att säga nej till människor, något som i vissa science fiction-filmer utmålats som en mardrömsvision. Tanken med forskningen är att ta reda på hur man programmerar robotar att tänka igenom de instruktioner de får och att göra det möjligt för robotarna att på egen hand avgöra om instruktionerna kan vara felaktiga eller farliga. Hittills har forskarna kommit fram till åtminstone en strategi, som utgår från att roboten alltid ställer sig frågan ”Vet jag hur man gör saken?” vilket därefter följs av frågorna ”Ingår det i mitt uppdrag att göra saken?” samt ”Frångår det jag ombeds göra normala principer?”. På så vis vill man försöka efterlikna en inre mänsklig monolog med logiska argument.