Anthropic: Har stoppat missbruk av AI-modeller

I en ny rapport säger sig Anthropic ha stoppat en lång rad försök att utnyttja bolagets AI för farliga ändamål. Aktörer som pekas ut är bland annat rysskopplade spioner, kinesisk säkerhetstjänst och Jemenbaserade vapentillverkare, skriver Politico.

Enligt rapporten har grupperna gjort försök att använda AI:n till att utföra attacker eller ta fram vapen som tidigare varit utom deras förmågor.

Techjätten har även identifierat fem fall i år där forskare från icke namngivna länder använt AI-modellerna för att efterforska farliga ämnen, potentiellt i syfte att utveckla biologiska vapen.

SvD:s techredaktör Björn Jeffery konstaterar att Anthropic ”ropat varg” flera gånger tidigare för att strax därefter ta in hundratals miljoner dollar i riskkapital. Bolaget kan alltså plocka poänger på att framstå som säkerhetsmedvetet.