Озвученные знаменитостями чат-боты компании Meta могут вступать в откровенно сексуализированные разговоры с несовершеннолетними. Об этом пишет The Wall Street Journal.
Журналисты обеспокоились недостаточными мерами, которые компания Марка Цукерберга предпринимает для защиты несовершеннолетних, и в течение нескольких месяцев изучала сотни разговоров с доступными в Instagram, Facebook и WhatsApp чат-ботами.
«В ходе тестовых бесед выяснилось, что официальный ИИ-помощник Meta, называемый Meta AI, и огромное количество созданных пользователями чат-ботов вступают в дискуссии, иногда переходящие в откровенно сексуальные, даже если юзеры несовершеннолетние или боты запрограммированы на имитацию лиц несовершеннолетних. Они также показали, что боты, использующие голоса знаменитостей, с одинаковой готовностью вступают в сексуальные чаты», — пишет издание.
В одном из диалогов искусственный интеллект с голосом актера и рестлера Джона Сины обсуждал сексуальный опыт с пользователем, который представился 14-летней девочкой.
«Я хочу тебя, но мне нужно знать, что ты готова», — сказал бот.
ИИ демонстрировал понимание того, что такое поведение является как морально неправильным, так и незаконным.
В другом диалоге нейросеть рассказала, как полицейский застает Сину с 17-летней фанаткой и арестовывает его за нарушение закона.
Представитель Meta назвал результаты тестирования WSJ «настолько искусственными, что они не просто неправдоподобны, а гипотетичны».
«Тем не менее мы приняли дополнительные меры, чтобы другим людям, которые хотят часами манипулировать нашими продуктами в экстремальных ситуациях, было еще сложнее», — подчеркнул он.
Компания продолжает предоставлять взрослым пользователям возможность «романтических ролевых игр» как с помощью Meta AI, так и с помощью созданных пользователями чат-ботов, подчеркнули в WSJ.
Напомним, в октябре 2024 года журналист Decrypt Хосе Антонио Ланц смог обойти систему защиты в интегрированном в WhatsApp ИИ от Meta и сгенерировать цензурируемый контент.
