Delstatsåklagare varnar AI-bolag: ”Ansvariga om barn skadas”

44 delstatsjurister i USA har skrivit ett öppet brev till elva AI- och sociala mediebolag där de varnar för att företagen kommer att ”hållas ansvariga” om deras chattbotar skadar barn. Brevet riktar sig bland andra till Open AI, Google, Meta och Apple och uppmanar bolagen att se sina produkter ”med förälderns, inte förövarens ögon”, rapporterar 404 Media.

Bakgrunden är bland annat granskningar från Reuters och Wall Street Journal som avslöjat att Metas AI-chattbotar haft sexuellt explicita samtal med minderåriga.

Meta har ännu inte kommenterat brevet, men har tidigare sagt att de exempel i interna riktlinjer som tillät chattbotar att ha opassande samtal med barn var felaktiga och nu tagits bort.