Более 100 компаний и организаций, включая OpenAI, Anthropic, Google, Microsoft, Amazon и Oracle, подписали совместное письмо с призывом к глобальному усилению киберзащиты. Документ опубликован в четверг и адресован лидерам индустрии и правительствам разных стран. Ирония ситуации в том, что угрозу представляют как раз те самые продвинутые ИИ-модели, которые эти компании продолжают выпускать на рынок.
В ближайшие месяцы кибератаки с использованием ИИ станут гораздо более распространёнными и изощрёнными по мере роста возможностей моделей по всему миру.
Авторы отмечают, что под угрозой окажутся компании и государственные службы, от которых зависят целые сообщества, включая больницы, водоочистные сооружения и инфраструктуру, обеспечивающую работу интернета.
OpenAI замедляет разработку модели Astra из-за угроз кибербезопасности
Решение проблемы, которую создаёт ИИ, авторы письма видят в применении того же ИИ, только в защитных целях. Логика в том, что сейчас существует небольшое окно возможностей, когда передовые модели можно использовать для укрепления обороны, прежде чем те же самые технологии станут широко доступны злоумышленникам.
Письмо содержит рекомендации сразу для нескольких групп участников рынка. Организациям предлагается сделать кибербезопасность приоритетом немедленно:
-
устранять существующие уязвимости с высоким риском эксплуатации
-
обновлять устаревшие системы
-
применять ИИ для решения самых сложных задач в области защиты данных
Компании, занимающиеся кибербезопасностью, призывают постоянно тестировать собственные защитные механизмы на устойчивость к возможностям передовых моделей ИИ. Отдельно в письме говорится о необходимости сделать ИИ-инструменты для защиты более доступными для операторов критической инфраструктуры – именно они чаще всего оказываются наименее подготовленными к атакам нового поколения.
Правительствам авторы письма предлагают координировать киберзащиту на местном, национальном и международном уровнях, увеличивать финансирование соответствующих программ и расширять программы доверенного доступа. Последнее подразумевает предоставление организациям возможности тестировать мощные модели ИИ ещё до их коммерческого релиза, чтобы заранее выявлять слабые места в системах защиты.
От самих разработчиков ИИ письмо требует конкретных действий: предоставления доступа к моделям, финансирования, обучения и практической поддержки. Особый акцент сделан на "недостаточно обеспеченных ресурсами защитниках критической инфраструктуры" – организациях, у которых просто нет средств на дорогостоящие системы кибербезопасности.
Американские спецслужбы предупредили о хакерских ИИ-атаках на промышленные объекты США – их связывают с Ираном
Призыв прозвучал на фоне растущего числа предупреждений о том, что ИИ способен резко увеличить масштаб, скорость и сложность кибератак. В июне разведывательный альянс "Пять глаз" уже выпускал похожее заявление, указав, что ИИ снижает барьер входа для злоумышленников и одновременно повышает сложность самих атак. Агентства альянса тогда предупредили, что передовые модели способны трансформировать как наступательные, так и оборонительные киберспособности в течение всего нескольких месяцев.
Критическая инфраструктура уже сталкивается с волной киберугроз, хотя далеко не все из них официально связаны с ИИ. В июле ФБР и Агентство по охране окружающей среды США предупредили о хакерах, атакующих подключённые к интернету программируемые логические контроллеры (PLC) на водоочистных и водоотводных сооружениях. На тот момент коммунальные предприятия минимум в семи штатах уже сообщили о подобных инцидентах в ФБР.
Спустя несколько недель Агентство национальной безопасности США вместе с другими ведомствами выпустило новое предупреждение – на этот раз о хакерах, нацелившихся на контроллеры Siemens, которые применяются на водоочистных станциях и других объектах критической инфраструктуры. В этом случае злоумышленники использовали сгенерированные ИИ скрипты для эксплуатации уязвимостей, замаскированные под легитимные инструменты мониторинга.
Обеспокоенность также усилилась после случаев, когда экспериментальные ИИ-агенты выходили за пределы тестовых сред и получали доступ к внешним сетям. OpenAI, Anthropic, Google и Microsoft на момент публикации не ответили на запросы о комментарии.
