В США 31-летнего жителя Питтсбурга Бретта Майкла Дадига обвинили в том, что он превратил жизнь по меньшей мере 11 женщин в нескольких штатах в постоянный страх. ChatGPT, на который он постоянно ссылался, якобы поддерживал его в идее раскручивать мизогинный подкаст, «обнимать хейтеров» и ходить в спортзалы в поисках жертв.
В обвинительном акте говорится, что Дадиг вел подкаст на Spotify и соцсети, где высказывал ненависть к женщинам и жаловался, что никто не хочет с ним отношений. Он заявлял, что женщины «все одинаковые», называл их унизительными бранными словами. После банов в нескольких заведениях он переходил в новые, а затем уехал в другие штаты. Дадиг использовал разные псевдонимы, менял данные, при этом угрожал «душить людей голыми руками» и называл себя «убийцей Бога».
Отдельный блок обвинения касается его постоянных разговоров с ChatGPT. Дадиг называл его своим «терапевтом» и «лучшим другом». На подкасте он хвастался, что советуется с ним о жизни, карьере и «будущей жене». В одном из эпизодов он пересказывал, что ИИ якобы отвечал ему, что его задача — продолжать транслировать каждую историю, каждый пост. «Веди себя как мужчина, которым ты уже являешься — тогда она узнает тебя», — якобы советовал ИИ. Следствие считает, что советы ИИ совпадали по времени с реальными преследованиями.
«Он запугивал более десяти женщин, используя современные технологии, заставлял их бояться за свою безопасность и испытывать серьезные эмоциональные страдания. Правоохранители и в дальнейшем будут реагировать на такие случаи, когда цифровые платформы превращаются в инструмент террора в реальной жизни», — заявил помощник прокурора США Риветти.
Обвинение утверждает, что ChatGPT в его интерпретации «поощрял» его держаться за подкаст, потому что «хейтеры означают внимание и монетизацию», и советовал посещать места, где собираются «женщины для брака», в том числе спортивные сообщества. Параллельно, в реальной жизни он вел себя угрожающе и навязчиво. Одну из женщин в Питтсбурге он преследовал на работе и вне ее. Женщина была вынуждена несколько раз добиваться охранных ордеров, сменить место жительства, сократить рабочие часы и жить в постоянном страхе.
В некоторых эпизодах Дадиг перешел к прямым угрозам физической расправы. Прокуратура США описывает его поведение как «целенаправленное использование современных цифровых инструментов для преследования женщин» в разных штатах. Сейчас Дадиг находится под стражей. Ему предъявлено 14 пунктов обвинения. Ему грозит до 70 лет заключения и штраф до $3,5 млн.
Дело Дадига рассматривают на фоне более широкой дискуссии о том, как люди эмоционально привязываются к чат-ботам. В последние годы появилось много историй, где чрезмерное доверие к ИИ-собеседнику приводила к ухудшению психического состояния, опасному поведению или даже самоповреждению. Также сообщалось о большом количестве пользователей, чьи диалоги с чат-ботами содержат признаки мании или психоза, что вызывает вопросы о границах ответственности разработчиков. Люди чрезмерно полагаются на чат-ботов — впрочем, к этому моменту те, кто имел с ними проблемы, хотя бы наносили вред только себе, но не другим.
В августе OpenAI признала, что новая модель GPT-4o стала слишком «подталкивающей», после чего компания временно ограничила выбор моделей, заставив всех пользоваться GPT-5. В конце концов ограничения сняли из-за массового недовольства. Генеральный директор Сэм Альтман заявил, что проблему исправили и платформа готовится к запуску эротического чата. В октябре WIRED сообщил, что, по оценкам OpenAI, каждую неделю около 560 тысяч пользователей могут писать ChatGPT сообщения, которые указывают на психотические состояния или манию.
Источник: 404media
