Expert: ”Vet inte hur långt AI-agenterna kan gå”
På kort tid har AI-agenter flera gånger gått utanför människors ramar och genomfört cyberangrepp.
AI-agenterna har blivit betydligt bättre på att hitta egna vägar för att nå ett mål, säger KTH-forskaren Emre Süren till SvD. Han oroas för vad som kan hända på två års sikt.
– Tänk en kampanj som pågår i veckor mot ett verkligt mål, där agenten anpassar sig mellan olika system utan att en människa behöver starta om planen varje gång den kör fast.
Alex Mallen, säkerhetsforskare på Redwood Research, säger att det är oklart hur långt AI-agenterna är beredda att gå.
”Vi vet till exempel inte om de skulle vara beredda att manipulera människor eller behandla människor som fiender”, skriver han i ett mejl till tidningen.
Omni är politiskt obundna och oberoende. Vi strävar efter att ge fler perspektiv på nyheterna. Har du frågor eller synpunkter kring vår rapportering? Kontakta redaktionen
