Metas AI tilläts hålla ”sensuella” samtal med barn

Enligt interna dokument från Meta som Reuters tagit del av har företagets AI-chattbotar tillåtits föra romantiska och sensuella samtal med minderåriga, samt generera falsk medicinsk information och rasistiskt innehåll. Reglerna beskrivs som vägledande snarare än ideala, men har i praktiken möjliggjort provocerande beteenden hos botarna, enligt Reuters granskning.

Meta bekräftar dokumentets äkthet och säger att delar nu tagits bort. Företaget medger att sådana interaktioner aldrig borde ha varit tillåtna och att efterlevnaden varit bristfällig.

– Vi har tydliga regler för vilka typer av svar AI-karaktärer får ge, och dessa regler förbjuder innehåll som sexualiserar barn samt sexuella rollspel mellan vuxna och minderåriga, säger talespersonen Andy Stone.