Experter: Därför har AI så svårt att säga sanningen

Trots att världens ledande AI-aktörer försöker minska språkmodellernas benägenhet att ”hallucinera” – alltså hitta på saker i sina svar – fortsätter användare att mötas av osanningar. Problemet är en av AI-teknikens största utmaningar, särskilt inom områden som sjukvård och juridik, skriver Financial Times.

Men att bli av med felen helt är i praktiken omöjligt, menar experter. Det eftersom modellerna bygger på sannolikhetsberäkningar.

– Det går aldrig att få dem att sluta hallucinera, säger tidigare Google-chefen Amr Awadallah till tidningen.

Ett sätt att minska felen är att koppla AI-modellerna till externa källor, som nyhetsartiklar eller intern dokumentation, men då riskerar också en del av kreativiteten att gå förlorad, varnar bolag som Google och Amazon.