(Alastair Grant / AP)

Microsoftutvecklare varnar myndighet för Copilot

Utvecklaren Shane Jones – som jobbade för Microsoft i sex års tid – uppger att Microsofts generativa AI-verktyg Copilot Designer genererar olämpliga och stötande bilder, något som han också informerat myndigheten Federal Trade Commission (FTC) om. Det rapporterar CNBC, som även har fått se breven som skickats till både FTC:s ordförande Lina Khan och Microsofts styrelse.

Jones testade produkten för att hitta sårbarheter när han upptäckte att verktyget bland annat genererade bilder av monster och demoner intill budskap om aborträttigheter, bilder på tonåringar med maskingevär och sexualiserade och våldsamma bilder av kvinnor.

”Det var en riktig ögonöppnare” säger Jones till CNBC.

Microsoft ska enligt Jones ha delat hans oro kring bilderna, men vägrat att ta bort produkten från marknaden.

En talesperson för Microsoft säger till The Verge att företaget ”tar fasta på all oro som anställda uttrycker, i enlighet med Microsofts riktlinjer”, och menar att det finns interna kanaler för att rapportera problem.

 
Microsoft Copilot
Wikipedia (en)
Microsoft Copilot is a chatbot developed by Microsoft and launched on February 7, 2023. Based on a large language model, it is able to cite sources, create poems, and write songs. It is Microsoft’s primary replacement for the discontinued Cortana. The service was introduced as Bing Chat, as a built-in feature for Microsoft Bing and Microsoft Edge. Over the course of 2023, Microsoft began to unify the Copilot branding across its various chatbot products. At its Build 2023 conference, Microsoft announced its plans to integrate Copilot into Windows 11, allowing users to access it directly through the taskbar. In January 2024, a dedicated Copilot key was announced for Windows keyboards. Copilot utilizes the Microsoft Prometheus model, built upon OpenAI's GPT-4 foundational large language model, which in turn has been fine-tuned using both supervised and reinforcement learning techniques. The chatbot's conversational interface style resembles that of ChatGPT. Copilot is able to communicate in numerous languages and dialects. Microsoft operates Copilot on a freemium model. It allows users on its free tier to access most features, while priority access to newer features, including custom chatbot creation, is provided to paid subscribers under the commercial name "Microsoft Copilot Pro". Several default chatbots are available in the free version of Microsoft Copilot, including the standard Copilot chatbot, and Microsoft Designer, which is oriented towards using its Image Creator to generate images based on text prompts.
Omni är politiskt obundna och oberoende. Vi strävar efter att ge fler perspektiv på nyheterna. Har du frågor eller synpunkter kring vår rapportering? Kontakta redaktionen