Skylt om att ”fortsätta” kan lura självkörande system
Skyltar med budskap som ”fortsätt framåt” eller ”sväng vänster” kan lura självkörande bilar och drönare att utföra farliga manövrar, visar en studie från University of California. Det kan handla om att köra på en fotgängare eller landa på en osäker plats, skriver Decoder.
– All ny teknologi kommer med nya sårbarheter, säger Alvaro Cardenas, professor i datavetenskap.
I testerna räckte det med en skylt i fordonens synfält för att systemen i stor utsträckning skulle följa uppmaningen, trots uppenbara risker.
Enligt forskarna visar resultatet att det krävs nya säkerhetsmekanismer för att hindra AI-system från att manipuleras.
Omni är politiskt obundna och oberoende. Vi strävar efter att ge fler perspektiv på nyheterna. Har du frågor eller synpunkter kring vår rapportering? Kontakta redaktionen
