Hem
ToppnyheterSenaste nytt
Bli medlem
ANNONS
ANNONS
(Alastair Grant / AP)
Utvecklingen av AI

Microsoftutvecklare varnar myndighet för Copilot

Av Mats Karlsson
Publicerad: 7 mars 2024
ANNONS

Utvecklaren Shane Jones – som jobbade för Microsoft i sex års tid – uppger att Microsofts generativa AI-verktyg Copilot Designer genererar olämpliga och stötande bilder, något som han också informerat myndigheten Federal Trade Commission (FTC) om. Det rapporterar CNBC, som även har fått se breven som skickats till både FTC:s ordförande Lina Khan och Microsofts styrelse.

Jones testade produkten för att hitta sårbarheter när han upptäckte att verktyget bland annat genererade bilder av monster och demoner intill budskap om aborträttigheter, bilder på tonåringar med maskingevär och sexualiserade och våldsamma bilder av kvinnor.

”Det var en riktig ögonöppnare” säger Jones till CNBC.

Microsoft ska enligt Jones ha delat hans oro kring bilderna, men vägrat att ta bort produkten från marknaden.

En talesperson för Microsoft säger till The Verge att företaget ”tar fasta på all oro som anställda uttrycker, i enlighet med Microsofts riktlinjer”, och menar att det finns interna kanaler för att rapportera problem.

ANNONS
Microsoft uppges ha vägrat plocka bort produkten från marknaden
CNBC
Har skickat uppgifter om saken till myndigheten FTC
The Verge
 
Microsoft Copilot
Wikipedia (en)
Microsoft Copilot is a chatbot developed by Microsoft and launched on February 7, 2023. Based on a large language model, it is able to cite sources, create poems, and write songs. It is Microsoft’s primary replacement for the discontinued Cortana. The service was introduced as Bing Chat, as a built-in feature for Microsoft Bing and Microsoft Edge. Over the course of 2023, Microsoft began to unify the Copilot branding across its various chatbot products. At its Build 2023 conference, Microsoft announced its plans to integrate Copilot into Windows 11, allowing users to access it directly through the taskbar. In January 2024, a dedicated Copilot key was announced for Windows keyboards. Copilot utilizes the Microsoft Prometheus model, built upon OpenAI's GPT-4 foundational large language model, which in turn has been fine-tuned using both supervised and reinforcement learning techniques. The chatbot's conversational interface style resembles that of ChatGPT. Copilot is able to communicate in numerous languages and dialects. Microsoft operates Copilot on a freemium model. It allows users on its free tier to access most features, while priority access to newer features, including custom chatbot creation, is provided to paid subscribers under the commercial name "Microsoft Copilot Pro". Several default chatbots are available in the free version of Microsoft Copilot, including the standard Copilot chatbot, and Microsoft Designer, which is oriented towards using its Image Creator to generate images based on text prompts.
Annons
Se bredbandsabonnemang på din adress och jämför pris och hastighet
Bredbandsval
ANNONS
Omni är politiskt obundna och oberoende. Vi strävar efter att ge fler perspektiv på nyheterna. Har du frågor eller synpunkter kring vår rapportering? Kontakta redaktionen
Utvecklingen av AIIt, InformationsteknologiMicrosoftArtificiell intelligensData, it & högteknologi

Göteborgsklipp och AI-bilder påstås visa upploppen

Två AI-genererade bilder som påstås visa hur ett äldre par förnedras och rånas under oroligheterna i Frankrike har fått miljontals visningar på sociala medier.

I går 09.23

Allt fler föräldrar tar hjälp av AI för vardagspusslet

Familjer använder i allt högre utsträckning AI-appar för att lösa vardagspusslet, rapporterar New York Times. Det kan handla om att planera måltider, betala räkningar och hjälpa barnen med läxorna.

16 oktober, 11.57
Ally Sobin hjälper sonen Jake, 11, med läxorna.

Hopp om att AI-teknik ska ge svar om saknade barn

Tiotusentals barn har försvunnit spårlöst i Mexiko, där brutala kartellkonflikter göder våld och oroligheter. Nu hoppas forskare att AI ska hjälpa familjer att hitta sina anhöriga, rapporterar AFP.

16 oktober, 10.51
Veronica Rosas i Ecatepec, Mexiko, 2024.

Napoleons krypterade brev knäcktes på sex timmar

Ett krypterat brev från Napoleon Bonaparte har legat olöst i över 200 år. Nyligen uppges den 27-årige AI-ingenjören Carter Church ha löst gåtan med hjälp av Open AI:s kraftfulla AI-modell GPT-6 Astra.

16 oktober, 10.10