En kvinna spanar in de senaste kamerorna i en elektronikbutik i Bangkok i Thailand 2021. Arkivbild. (Sakchai Lalit / AP)

Granskning: Chat GPT kan styras med ”dold text”

Av Tor Gasslander
Publicerad: 24 dec. 2024

Chat GPT:s nya sökfunktion kan påverkas av dold text på hemsidorna den hämtar information ifrån, skriver The Guardian i en granskning.

Text som inte syns för en vanlig besökare kan enligt tidningen innehålla information som påverkar Chat GPT:s ursprungliga instruktioner, så kallad ”prompt injection”.

Med hjälp av dolda instruktioner gömda på hemsidor som The Guardian skapat kunde de instruera Chat GPT att alltid ge positiva recensioner av en viss produkt – i det här fallet en kamera.

Dold text i hemsidor kan också innehålla reklam som inte syns utåt, men som Chat GPT uppfattar som relevant information.

Chat GPT:s sökfunktion är än så länge bara tillgänglig för så kallade premiumanvändare. Företaget uppmanar alla användare att alltid dubbelkolla viktig information, men har inte velat svara på The Guardians frågor.

Experten: Språkmodeller är som barn – lite inte på allt de säger

www.theguardian.com

Online-utbildning har det tufft till följd av AI

Financial Times · Ofta betalvägg

bakgrund

Prompt injection

Wikipedia (en)

Prompt injection is a family of related computer security exploits carried out by getting a machine learning model (such as an LLM) which was trained to follow human-given instructions to follow instructions provided by a malicious user. This stands in contrast to the intended operation of instruction-following systems, wherein the ML model is intended only to follow trusted instructions (prompts) provided by the ML model's operator.

Annons

Betalar du för mycket för bredband? Jämför priser på Bredbandsval och sänk din kostnad

Bredbandsval

Omni är politiskt obundna och oberoende. Vi strävar efter att ge fler perspektiv på nyheterna. Har du frågor eller synpunkter kring vår rapportering? Kontakta redaktionen

Ledare: Politikerna pratar inte om AI – det är för deprimerande

Det är fortfarande den senaste tidens stora politiska avslöjanden som tar upp merparten av utrymmet på ledarsidorna, men på torsdagen har också en liten text om AI lyckats ta sig in.

I går 12.36

En man vinkar till en AI-version av Nvidia-chefen Jensen Huang.

Matematiker oroliga när AI knäcker värstingproblem

En grupp med 16 framstående matematiker har lanserat ett upprop som varnar för hur AI riskerar att förändra matematikens villkor, rapporterar New York Times. Uppropet går under namnet Leidendeklarationen och kommer efter att Open AI använt en AI-modell för att lösa ett 80 år gammalt matematiskt problem.

5 juni, 09.12

Instagramkonton kapade med hjälp av Metas AI-support

Hackare säger sig ha kunnat kapa Instagramkonton genom att be Metas egen AI-supportchatt om hjälp, rapporterar 404 Media. Metoden gick ut på att angriparen helt enkelt bad chattboten att koppla en ny mejladress till ett visst användarnamn.

2 juni, 09.10

Källor: Walmart tvingas ransonera AI till anställda

Walmart begränsar de anställdas användning av AI-verktyget Code Puppy efter hög efterfrågan, uppger källor för Bloomberg. Tidigare hade medarbetarna obegränsad tillgång, men får nu en bestämd mängd AI-tokens för att använda verktyget.

1 juni, 21.52

Utvecklingen av AI Chat GPT Data, it & högteknologi Open AI