Microsoft uppges ha tystat DALL-E 3-kritisk utvecklare

En AI-utvecklare på Microsoft säger sig ha blivit tystad, efter att han upptäckt sårbarheter i bildgenereringsverktyget DALL-E 3, som gjort det möjligt att kringgå säkerhetsbegränsningarna och skapa våldsamma och sexuellt explicita bilder. Det skriver Geekwire.

Utvecklaren – Shane Jones – uppger att de fejkade bilder på artisten Taylor Swift som fått spridning på senare tid är precis den typ av bilder han varnat för.

Jones menar att han kom till slutsatsen att DALL-E-3 utgjorde en säkerhetsrisk och därför borde göras otillgänglig för allmänheten till dess att sårbarheterna åtgärdats.

Efter att i början av december 2023 ha informerat Microsoft om sin upptäckt berättade han även om det hela i ett inlägg på Linkedin, men ombads kort därefter av Microsofts juridiska avdelning att radera inlägget.

Jones säger sig ha blivit lovad en förklaring, men någon sådan har inte kommit, hävdar han.

En talesperson för Open AI skriver till Engadget att företaget har granskat rapporten om sårbarheterna, men menar att de inte gör det möjligt att kringgå säkerhetssystemen.