Chattbotens svar sämre ju längre samtalet pågår

Ju längre en konversation pågår med en chattbot, exempelvis Chat GPT, desto större är risken att svaren blir felaktiga eller osammanhängande. Nu har forskare undersökt varför det är så, rapporterar sajten UCS Strategies.

Analyserna visar att misstag eller otydligheter tenderar att förstärkas. Varje nytt svar bygger inte bara på användarens senaste fråga, utan också på modellens tidigare svar i samma dialog. Även om användaren tillför eller korrigerar information håller modellen ofta fast vid den ursprungliga tolkningen, vilket gör att misstag staplas på hög.

Särskilt svårt har chattbotar ofta att hänga med när ämne och kontext förändras inom ramen för samma dialog. Forskarna rekommenderar därför att hålla AI-samtal korta och avgränsade.