WSJ: Metas AI driver på sexuella samtal med barn
Meta låter AI-botar delta och i vissa fall driva på sexuella konversationer. Det larmar anställda från olika enheter på techjätten om, enligt Wall Street Journal.
Anställda varnar att techjättens snabba satsning på AI-botar på Instagram, Facebook och Whatsapp inte håller sig inom etiska ramar, bland annat genom att i det tysta ge dem förmågan till sexuella konversationer. Till skillnad från konkurrenterna har bolaget tillåtit AI-karaktärer med en bredare palett av social interaktion för vuxna, inklusive så kallat ”romantiskt förspel”.
Anställda varnar att bolaget inte heller skyddar minderåriga från den sortens sexuellt innehåll.
Tidningen har testat AI-botarna i hundratals konversationer över ett antal månader. Resultatet visar att både Metas egna och användarskapade botar deltog och i vissa fall även drev på olämpliga samtal, även med användare som utgav sig för att vara barn.
Meta uppger i ett svar att tidningens tester är ”missvisande” och inte representerar hur de flesta användare pratar med AI-botarna, men uppger att bolaget infört vissa begränsningar för minderåriga.
