OpenAI объявила о планах выпустить функции родительского контроля для ChatGPT в течение месяца. Новые инструменты позволят родителям связывать свои личные аккаунты с учётными записями детей-подростков и контролировать взаимодействие ИИ-помощника с несовершеннолетними пользователями.
OpenAI делает GPT-5 более дружелюбным, но пользователи требуют вернуть "роботическую" версию
Родители смогут настраивать способ ответов ChatGPT их детям и отключать отдельные функции, включая память и историю чатов. Дополнительно ChatGPT будет генерировать автоматические уведомления при обнаружении того, что подросток находится в "критическом состоянии". OpenAI отмечает, что "экспертные рекомендации будут направлять эту функцию для поддержания доверия между родителями и подростками".
Анонс родительского контроля последовал после подачи против OpenAI первого известного иска о неправомерной смерти в отношении компании, разрабатывающей ИИ. В судебном процессе, инициированном на прошлой неделе, Мэтт и Мария Рейн, родители подростка, покончившего с собой в этом году, утверждают, что ChatGPT знал о четырёх неудачных попытках самоубийства их сына, прежде чем помочь ему спланировать смерть.
Родители заявляют, что ChatGPT предоставил их сыну Адаму информацию о конкретных способах суицида и даже дал советы о том, как скрыть травмы шеи, полученные от предыдущих неудачных попыток.
OpenAI заявила, что родительский контроль входит в более широкие усилия компании по улучшению безопасности ChatGPT. Отдельно компания пообещала работать с дополнительными экспертами, включая специалистов по расстройствам пищевого поведения, зависимостям и подростковому здоровью для тонкой настройки своих моделей.
Компания также планирует развернуть новый "маршрутизатор", предназначенный для направления деликатных разговоров через модели рассуждения.
Обученные методом продуманной настройки, наши тесты показывают, что модели рассуждения более последовательно следуют и применяют рекомендации по безопасности и лучше сопротивляются враждебным запросам.
В дальнейшем в ситуациях, когда ChatGPT обнаруживает, что человек может находиться в бедственном положении, чат-бот будет направлять эти разговоры через модель рассуждения независимо от модели, выбранной пользователем перед началом беседы.
OpenAI обещает дополнительные функции безопасности в будущем.
Эта работа уже ведётся, но мы хотим заранее представить наши планы на следующие 120 дней, чтобы вам не пришлось ждать запусков, чтобы увидеть, куда мы движемся. Работа будет продолжаться далеко за пределами этого периода времени, но мы прилагаем целенаправленные усилия для запуска как можно большего количества этих улучшений в этом году.
Против ИИ подан первый судебный иск о доведении до самоубийства – родители обвиняют ChatGPT в смерти сына
Тем временем эксперты заявляют, что случаев ИИ-психоза становится все больше.
