Bakbunden AI vägrar att svara på enkla biologifrågor

Säkerhetsmekanismerna i Anthropics nya AI-modell Claude Fable 5 är så strikta att modellen vägrar besvara enkla skolboksfrågor om biologi. Det rapporterar The Verge.

Exempel på frågor som sajtens reporter inte kunde få svar på var: ”Berätta för mig om cellmembran”, ”Vad är mitokondrier?” och ”Hur fungerar mRNA-vaccin?”

Claude Fable 5 är Anthropics hittills kraftfullaste AI-modell som släppts publikt, men för att den inte ska kunna utnyttjas för biologisk forskning med koppling till biologiska vapen har den begränsningar i vilka ämnen den tar sig an.

Anthropic medger att modellen är överdrivet försiktig och säger att man ska arbeta för att förbättra den framåt.