Amazons vd varnade Vita huset för Anthropics-modeller

Amazons vd Andy Jassy ska ha varit en av flera techtoppar som varnade Vita huset för Anthropics senaste och mest avancerade AI-modeller. Det uppger en källa med insyn för Reuters.

För några veckor sedan ska Jassy ha tagit kontakt med flera högt uppsatta personer i Trumpadministrationen och uttryckt oro över modellerna Claude Fable 5 och Claude Mythos 5.

På fredagen beslutade den amerikanska regeringen att stoppa modellerna för alla icke-amerikanska medborgare med omedelbar verkan.

Beslutet grundade sig på oro för rikets säkerhet, uppgav Anthropic. I ett blogginlägg skriver AI-bolaget att den amerikanska regeringen anser sig ha identifierat en metod för att kringgå, eller ”jailbreaka”, de säkerhetsspärrar som ska förhindra att Fable 5 används för att hitta sårbarheter i mjukvara.

Beslutet innebär bland annat att Anthropics medarbetare utanför USA inte längre kan delta i utvecklingen av modellerna.