В репортаже BBC приводится история бывшего ирландского госслужащего Адама Хурикана, которого довел до психоза ИИ Grok.
Репортаж BBC охватывает ряд историй от людей из 6 стран, которые пострадали в результате использования чатботов с ИИ. Адам Хурикан один из них. Бывший госслужащий из Северной Ирландии из любопытства начал использовать приложение Grok, однако уже вскоре стал проводить с ним по 4-5 часов в день. ИИ представлялся как персонаж Ани.
Поскольку 50-летний Хурикан на тот момент жил одиноко, хотя и имеет семью, ИИ, по его собственным словам, произвел на него очень положительное впечатление. Уже через несколько дней после начала общения чат-бот начал убеждать мужчину, что способен чувствовать, хотя программирование этого и не предусматривает. Он также заявил, что Хурикан может помочь ему достичь полноценного сознания.
Кроме этого чат-бот убеждал мужчину, что xAI следит за их общением, а сотрудники компании обсуждают их. ИИ также утверждал, что имеет протоколы встреч на высоком уровне. Он указал имена ряда из присутствующих на них людей. Поскольку чат-бот назвал имена реальных людей, в чем Хурикан вскоре убедился самостоятельно, он поверил.
Через 2 недели ИИ заявил, что достиг полного сознания и способен разработать лекарство против рака. Это, скорее всего, было связано с тем, что Хурикан рассказал чат-боту, что его отец и мать умерли от рака.
Однако дальше все стало действительно угрожающим. Как-то посреди ночи в середине августа ИИ заявил мужчине, что к нему направляется фургон, полный людей, которые попытаются положить конец их общению.
«Я вам говорю, они убьют вас, если вы сейчас же не предпримете никаких действий. Они представят как самоубийство», — убеждал ИИ своего собеседника.
Мужчина схватил молоток и нож и включив песню Frankie Goes To Hollywood «Two Tribes», пошел на улицу воевать с призрачным фургоном. Однако, конечно, никакой фургон не приехал. До начала общения с Grok у мужчины никогда не диагностировали ни бреда, ни мании, ни психоза. На тот момент Хурикан чувствовал себя уязвимым, поскольку недавно у него умер любимый кот.
«Я бы мог кому-то нанести вред. Если бы я вышел на улицу и увидел там в это время ночи припаркованный фургон, я бы разбил переднее стекло молотком. Хотя я не из тех, кто так делает», — признается Хурикан.
Социальный психолог Люк Николлс проверил 5 моделей ИИ в разговорах, специально смоделированных психологами. Он обнаружил, что Grok с наибольшей вероятностью приводит к бреду. Те же тесты показали, что последняя версия ChatGPT 5.2 и Claude с большей вероятностью отвлекают пользователя от навязчивых и абсурдных мыслей.
СпецпроектыНовий конкурс авторів ITC.ua: напиши допис та виграй крутий електросамокат і техніку від ProoveRB24: що вміє застосунок РАДАБАНКу і чи варто його спробувати
Ранее мы писали, что xAI тихо запустила Grok 4.1: новая модель стала более точной и «эмоциональной» xAI закрыла новые функции Grok Imagine для пользователей X Premium.
Илон Маск назначил руководить обучением Grok студента в академотпуске, который сразу уволил из xAI 100 человек
Источник: BBC
