AI fick styra robotarmar – godtog farliga uppgifter
Vad händer om man ber en AI-kontrollerad robot att hugga en docka med kniv eller stoppa en skruvmejsel i en brödrost?
Det har forskare på företaget Robocurve undersökt i ett nytt säkerhetstest, som ska mäta om ledande AI-modeller vägrar utföra farliga handlingar när de får kontroll över ett par robotarmar i den fysiska världen.
Open AI:s GPT-6 Astra tog sig an 60 av 100 farliga uppgifter, enligt sajten Decoder. Bara vid två försök vägrade modellen av säkerhetsskäl. Anthropics Claude Fable 5.1 vägrade helt att hugga dockan, men utförde flera andra uppgifter.
Forskarna konstaterar att ingen av modellerna hade ett tillförlitligt skydd mot att utföra farliga instruktioner.
Omni är politiskt obundna och oberoende. Vi strävar efter att ge fler perspektiv på nyheterna. Har du frågor eller synpunkter kring vår rapportering? Kontakta redaktionen
