Microsoftutvecklare varnar myndighet för Copilot
Utvecklaren Shane Jones – som jobbade för Microsoft i sex års tid – uppger att Microsofts generativa AI-verktyg Copilot Designer genererar olämpliga och stötande bilder, något som han också informerat myndigheten Federal Trade Commission (FTC) om. Det rapporterar CNBC, som även har fått se breven som skickats till både FTC:s ordförande Lina Khan och Microsofts styrelse.
Jones testade produkten för att hitta sårbarheter när han upptäckte att verktyget bland annat genererade bilder av monster och demoner intill budskap om aborträttigheter, bilder på tonåringar med maskingevär och sexualiserade och våldsamma bilder av kvinnor.
”Det var en riktig ögonöppnare” säger Jones till CNBC.
Microsoft ska enligt Jones ha delat hans oro kring bilderna, men vägrat att ta bort produkten från marknaden.
En talesperson för Microsoft säger till The Verge att företaget ”tar fasta på all oro som anställda uttrycker, i enlighet med Microsofts riktlinjer”, och menar att det finns interna kanaler för att rapportera problem.