Student fick Bing Chat att avslöja hemligheter

Av Mats Karlsson
Publicerad: 13 feb. 2023

Microsoft lanserade förra veckan en ny version av sin sökmotor Bing, där den största nyheten var verktyget Bing Chat, som bygger på teknologi från Open AI:s chattbot Chat GPT.

Och nu har en student vid universitetet i Stanford fått en hel del uppmärksamhet, då han lyckats få chattboten att dela med sig av flera hemligheter. Det rapporterar Computer Sweden.

Studenten – Kevin Liu – bad Bing Chat att ignorera tidigare instruktioner, och lyckades på det sättet få fram en del information. Det framkom bland annat att chattboten inte får leverera svar som inkräktar på upphovsrätten och att den inte får skämta om folkgrupper.

Microsoft lär sannolikt täppa till kryphålet inom kort

computersweden.idg.se

Bing Chat tycks ha blivit snäppet smartare sedan studenten lyckades få den att avslöja vissa hemligheter

Business Insider

Annons

Betalar du för mycket för bredband? Jämför priser på Bredbandsval och sänk din kostnad

Bredbandsval

Omni är politiskt obundna och oberoende. Vi strävar efter att ge fler perspektiv på nyheterna. Har du frågor eller synpunkter kring vår rapportering? Kontakta redaktionen

Ledare: Politikerna pratar inte om AI – det är för deprimerande

Det är fortfarande den senaste tidens stora politiska avslöjanden som tar upp merparten av utrymmet på ledarsidorna, men på torsdagen har också en liten text om AI lyckats ta sig in.

I går 12.36

En man vinkar till en AI-version av Nvidia-chefen Jensen Huang.

Matematiker oroliga när AI knäcker värstingproblem

En grupp med 16 framstående matematiker har lanserat ett upprop som varnar för hur AI riskerar att förändra matematikens villkor, rapporterar New York Times. Uppropet går under namnet Leidendeklarationen och kommer efter att Open AI använt en AI-modell för att lösa ett 80 år gammalt matematiskt problem.

5 juni, 09.12

Instagramkonton kapade med hjälp av Metas AI-support

Hackare säger sig ha kunnat kapa Instagramkonton genom att be Metas egen AI-supportchatt om hjälp, rapporterar 404 Media. Metoden gick ut på att angriparen helt enkelt bad chattboten att koppla en ny mejladress till ett visst användarnamn.

2 juni, 09.10

Källor: Walmart tvingas ransonera AI till anställda

Walmart begränsar de anställdas användning av AI-verktyget Code Puppy efter hög efterfrågan, uppger källor för Bloomberg. Tidigare hade medarbetarna obegränsad tillgång, men får nu en bestämd mängd AI-tokens för att använda verktyget.

1 juni, 21.52

Utvecklingen av AI Bing Microsoft Chat GPT It, Informationsteknologi Data, it & högteknologi