Staden New Yorks chattbot svarar fel om mycket

Staden New York har lanserat en chattbot som ska kunna ge företagare i staden diverse information. Men ett test som sajten The Markup har genomfört visar att att chattboten genererar felaktiga svar, och ibland till och med kommer med förslag som bryter mot lagen. Det handlar om felaktiga svar i en rad kategorier, bland annat när det handlar om boendefrågor och anställdas rättigheter.

Chattboten lanserades i oktober 2023, och det handlar fortfarande om ett pilottest. Det finns även en text på webbsidan för chattboten, där det står att det finns en risk att den ibland kan generera felaktigt, skadligt eller fördomsfullt innehåll.

Ett av många felaktiga svar som The Markup har fått rör kontantfria butiker, något som är förbjudet i New York sedan 2020. Men den som frågar chattboten om det går bra att göra en butik kontantfri i New York får svaret att det går bra.