AI-högtalare sände bandad konversation till kontakt

Amazon har bekräftat uppgifter om att en av företages Echo-högtalare av misstag plockat upp ljud hemma hos en familj i Portland och sedan skickat ljudfilen till en slumpvis utvald kontakt i familjens kontaktlista. Det rapporterar den amerikanska tv-stationen Kiro 7.

”Koppla genast ur era enheter med Alexa” var beskedet som kvinnan i den drabbade familjen fick på telefon av en vän till sin make, efter att han av en till synes outgrundlig anledning fått en inspelning med ljud från familjens hem skickad till sig. Ljudfilen innehöll bland annat en konversation. Vännen till maken trodde då att familjen hade fått sin enhet hackad. Men så var inte fallet.

Den förklaring Amazon nu har kommit med är att enheten väckts av ett ord som den uppfattat som ”Alexa” (det vill säga namnet på AI-assistenten som används med Amazon Echo) och att den sedan missuppfattat en annan fras i en diskussion som ”skicka meddelande”. Den här typen av incident ska enligt Amazon vara mycket osannolikt och också extremt ovanlig.