Studie: Avancerade AI-botar svarar hellre fel än inte alls
Forskare vid Universitat Poltecnica de Valencia har publicerat en studie i tidskriften Nature, där de konstaterar att ju mer avancerade AI-modeller blir desto mer benägna blir systemen också att komma med både korrekta och felaktiga svar. Det rapporterar Engadget.
De mer avancerade AI-botarna ska enligt studien nämligen hellre besvara en fråga felaktigt än medge att de inte kan svaret. Och människor som använder botarna blir också allt mer benägna att tro på de svar de får, något som enligt forskarna bidrar till att felaktig information sprids.
Teamet bakom studien har tittat på Open AI:s GPT-serie, Metas Llama och open source-alternativet Bloom. Tidiga versioner av modellerna testades först, och därefter gick forskarna vidare med mer moderna och mer avancerade versioner.
Forskarna rekommenderar nu AI-utvecklare att börja förbättra prestandan när det handlar om enklare frågor, och uppmanar dem att programmera sina chattbotar att vägra besvara frågor som de inte kan svaret på.
