Demokraternas presidentkandidat Dean Phillips (Charles Krupa / AP)

Utvecklare stängs av – imiterade politiker med GPT-4

Av Mats Karlsson
Publicerad 22 januari 2024, 05:45

Open AI har stängt av två utvecklare som använt GPT-4 för att ta fram en chattbot som imiterar den amerikanske politikern och presidentkandidaten Dean Phillips. Det rapporterar sajten Silicon Angle. Det är första gången som Open AI har stängt av någon för att ha brutit mot riktlinjerna för användandet av företagets AI-tjänster.

Det är entreprenörerna Matt Krisiloff och Jed Somers som har stängts av, efter att ha skapat chattboten Dean.Bot. Utvecklarna informerade användarna om att den skulle få svar genererade av en chattbot snarare än Phillips i egen hög person, men det hjälpte alltså inte.

Informerade användarna om att de skulle få svar av en chattbot

Reuters · Ofta betalvägg

Det här är första gången som Open AI stänger av någon för missbruk av företagets AI-tjänster

siliconangle.com

Omni är politiskt obundna och oberoende. Vi strävar efter att ge fler perspektiv på nyheterna. Har du frågor eller synpunkter kring vår rapportering? Kontakta redaktionen

Meta kommer inte släppa AI som bedöms utgöra en risk

Meta skriver i ett nytt policydokument kallat ”Frontier AI Framework” att företaget inte kommer att släppa några AI-system som bedöms kunna utgöra en allvarlig risk. Det rapporterar Techcrunch, som skriver att Meta definierar två risknivåer i dokumentet: Hög risk och kritisk risk. System som utgör en kritisk risk kan enligt Metas definition få ”katastrofala följder”, och som exempel tar Meta spridningen av biologiska vapen.

Igår 09:40

Experter: Lätt att kringgå Deep Seeks säkerhetsspärrar

Det är relativt enkelt att kringgå de säkerhetsspärrar som den kinesiska AI-modellen Deep Seek R1 är utrustad med. Det hävdar åtminstone säkerhetsforskare vid University of Pennsylvania, som i samarbete med nätverksjätten Cisco har låtit undersöka saken. Det rapporterar Computer Sweden.

Igår 08:06

Anthropic lanserar nytt skydd mot missbruk av AI

Missbruk av AI-modeller – mer specifikt så kallade ”jailbreaks” som kan användas för att kringgå modellernas begränsningar – är ett växande problem. Men Open AI-rivalen Anthropic har nu lanserat ett nytt skyddssystem kallat ”Constitutional Classifiers” som ska kunna stoppa ”en överväldigande majoritet” av alla jailbreakförsök när det kommer till modellen Claude 3.5 Sonnet. Det rapporterar sajten ARS Technica.

Igår 06:14

Google: Statssponsrade hackare missbrukar Gemini

Flera statssponsrade hackergrupper använder Googles AI-assistent Gemini för att öka sin produktivitet och för att hitta information om sårbarheter hos organisationer som är potentiella måltavlor. Det hävdar Googles division Google Threat Intelligence Group (GTIG), skriver sajten Bleeping Computer.

3 februari, 19:15

Utvecklingen av AI Dean Phillips Artificiell intelligens Open AI Data, it & högteknologi It, Informationsteknologi