Biologiska vapen nästa stora AI-risk: ”Kan gå snett på ett ögonblick”

AI-bolagen rustar för risken att deras modeller ska kunna användas för att skapa nya virus och biologiska vapen, rapporterar Financial Times.

Oron är att biologi kan bli nästa stora säkerhetsproblem för AI efter cyberattacker.

Till skillnad från cyberattacker är riskerna svåra att testa. Att fullt ut undersöka vad en AI klarar skulle i värsta fall innebära att faktiskt försöka framställa ett biologiskt vapen i ett laboratorium.

– Det krävs bara ett enda misstag för att på ett ögonblick rasera det förtroende som allmänheten fortfarande har för vetenskap, medicin och teknik. Det kan ta åratal att bygga upp igen, säger David Relman, professor i mikrobiologi och immunologi vid Stanford.