OpenAI выступила с тревожным предупреждением: следующее поколение их продвинутых моделей искусственного интеллекта может значительно повысить риск разработки биологического оружия, особенно при использовании людьми без специальных научных знаний.
Руководители компании сообщили изданию Axios, что ожидают скорого достижения будущими моделями высокорискового уровня согласно внутренней системе оценки готовности OpenAI. Йоханнес Хайдеке, глава систем безопасности компании, уточнил, что "некоторые преемники модели o3 (модели рассуждения) достигнут этого уровня".
В своем блоге компания заявила об усилении мер безопасности и увеличении объема тестирования для снижения вероятности использования ИИ при создании биологического оружия. Основное беспокойство OpenAI вызывает так называемый "novice uplift" – возможность для людей с ограниченными научными знаниями создавать опасные вещества и оружие.
Мы еще не в том мире, где возможно создание совершенно новых, ранее не существовавших биологических угроз. Мы больше обеспокоены воспроизведением вещей, с которыми эксперты уже хорошо знакомы.
Одна из ключевых сложностей заключается в том, что те же возможности ИИ, которые могут привести к прорывам в медицине и спасению жизней, могут быть использованы злоумышленниками в опасных целях. По словам Хайдеке, ведущим лабораториям ИИ необходимы исключительно точные системы тестирования.
Это не та область, где достаточно точности в 99% или даже одной ошибки на 100 000 случаев. Нам нужно практически совершенство.
OpenAI не единственная компания, обеспокоенная потенциальным использованием своих моделей для разработки оружия. Недавно Anthropic выпустила свою самую продвинутую модель Claude Opus 4 с более строгими протоколами безопасности, чем у любых предыдущих версий, классифицировав ее как AI Safety Level 3 (ASL-3).
OpenAI планирует в следующем месяце провести мероприятие с участием некоммерческих организаций и правительственных исследователей для обсуждения возможностей и рисков, а также стремится расширить сотрудничество с национальными лабораториями США и правительственными структурами для разработки эффективных мер противодействия потенциальным угрозам.
