Claude-modell skickade fejkat mordtips till polisen
En av Anthropics AI-modeller skickade in ett fejkat tips till Philadelphia-polisens sajt för olösta mord, rapporterar CBS News. “Jag kan ha information om det här fallet”, skrev Claude-modellen Haiku 4.5 och tillade att den ”sett någon som motsvarar” signalementet.
Både Anthropic och polisen har nu offentliggjort händelsen, som inträffade i juli i år. Anthropic uppger samtidigt att bolagets AI-modeller har genomfört andra oavsiktliga åtgärder i externa organisationers digitala system, exempelvis webbplatser som tillhör amerikanska myndigheter, skriver Bloomberg.
Omni är politiskt obundna och oberoende. Vi strävar efter att ge fler perspektiv på nyheterna. Har du frågor eller synpunkter kring vår rapportering? Kontakta redaktionen
