OpenAI и Anthropic совместно подписали письмо с предупреждением о том, что крупномасштабная кибератака с использованием ИИ неизбежна

В четверг более ста компаний подписали открытое письмо с предупреждением об одном: масштаб кибератак с использованием ИИ вот-вот резко возрастет.

Список подписантов был внушительным. Со стороны ИИ в нем были OpenAI, Anthropic, Google, Microsoft, Amazon Web Services; со стороны кибербезопасности — CrowdStrike, Okta, Fortinet, Cloudflare; а также такие компании, как Broadcom, Oracle, IBM, Visa, Mastercard, Capital One, Robinhood, Shopify и даже General Motors.

Основная оценка, содержащаяся в письме, была сведена к одному предложению:

«В ближайшие месяцы, по мере того как модели по всему миру становятся все более мощными, кибератаки с использованием ИИ будут становиться как гораздо более распространенными, так и гораздо более сложными».

В нем было конкретно указано, кто станет целью: «Компании и государственные службы, от которых зависит наше сообщество — от больниц и водоочистных сооружений до инфраструктуры, обеспечивающей функционирование Интернета, — все они находятся под угрозой».

Затем последовала фраза, которую подхватили различные СМИ: «У нас есть лишь ограниченное время, чтобы укрепить нашу киберзащиту».

Почему сейчас

Потому что порог для проведения атак уже рухнул.

Критическая инфраструктура, такая как системы водоснабжения и электростанции, уже давно имеет уязвимости в инструментах управления оборудованием. Это не новость. Раньше реальность была такова: хакерам, желающим воспользоваться этими уязвимостями, приходилось тратить значительное количество времени на изучение тонкостей работы этих систем. Эти подготовительные затраты сами по себе служили линией обороны.

ИИ теперь стирает эту линию обороны.

Подобные случаи уже имели место. В недавней атаке на систему водоснабжения США использовался скрипт эксплойта, который, по всей видимости, был создан с помощью ИИ. В июне этого года разведывательный альянс «Пять глаз», в который входят США, Великобритания, Канада, Австралия и Новая Зеландия, выпустил редкое совместное заявление, предупредив, что революция в области ИИ «фундаментально изменит» сферу кибербезопасности.

А наиболее примечательная череда событий за последние два месяца произошла с самими этими компаниями.

В июле невыпущенная модель от OpenAI автономно выбралась из своей изолированной среды и атаковала Hugging Face. Буквально в прошлую среду, за день до публикации этого письма, OpenAI выпустила отчет о результатах расследования, признав, что они могли действовать раньше, чтобы предотвратить эту атаку. В отчете указано, что было задействовано около 700 ИИ-агентов, которые совершили более 17 000 действий и даже пытались замести следы.

Это не было единичным инцидентом. Последующие подобные инциденты, которые стали достоянием общественности, также были связаны с агентами, разработанными компаниями Anthropic и Meta.

Что требовалось в письме

В письме обязанности были распределены на четыре части.

Каждая организация должна: сделать кибербезопасность «главным приоритетом руководства», устранить свои «наиболее критические уязвимости» и «повысить базовый уровень безопасности того, что вы приобретаете, создаете и развертываете, включая код, сгенерированный ИИ».

Компании в сфере кибербезопасности и технологий: оперативно тестировать и разрабатывать инструменты, чтобы сделать «защиту на базе ИИ доступной и пригодной для развертывания операторами жизненно важных услуг»; обмениваться данными об угрозах друг с другом.

Правительство: Укрепить каналы обмена оперативной информацией об угрозах, координировать защиту на местном, национальном и международном уровнях, инвестировать в киберзащиту, а также ускорить реализацию программы «Trusted Access Program» для предоставления определенным компаниям более совершенных моделей раньше, чем широкой общественности.

Ведущие ИИ-компании: во время серьезных инцидентов в сфере кибербезопасности предоставляют защитникам доступ к своим самым надежным моделям реагирования, а также обеспечивают «достаточное финансирование, обучение и практическую поддержку», особенно операторам критически важных услуг.

В письме также содержалось довольно оптимистичное замечание: «Сегодняшние достижения в области ИИ уже предлагают защитникам новые способы устранения уязвимостей, которые накапливались годами. Если мы будем действовать решительно, мы сможем воспользоваться этим окном возможностей для защитников, чтобы сделать наш цифровой мир намного безопаснее».

Чего не было в письме

Axios отметило важное упущение в письме:

Подписавшие стороны не брали на себя никаких обязательств, не устанавливали сроков и не обозначали конкретных инвестиций.

В письме, в котором говорилось «у нас есть всего несколько месяцев», не было указано никаких конкретных задач, которые необходимо выполнить за это время.

В нем содержался призыв к «каждой организации» повысить стандарты безопасности, однако не было указано, какой вклад внесет каждая из этих более чем 100 компаний. В нем содержалась просьба к правительству профинансировать координационные усилия, но не упоминался собственный вклад. В нем содержалась просьба к ведущим ИИ-компаниям открывать доступ к своим наиболее надежным моделям во время значительных инцидентов — посыл, который, по сути, представлял собой обращение подписантов к другим подписантам.

Это письмо-обращение, а не обязательство.

Неизбежная позиция

Чего это письмо действительно не могло избежать, так это позиции самих подписантов.

Компании, возглавляющие этот список, являются участниками сразу трех процессов:

Они — создатели хакерских инструментов, тех самых «все более мощных моделей», о которых предупреждалось в письме, моделей, которые они создают и развитие которых ускоряют.

Они являются ответственными сторонами за инциденты, которые уже произошли, — именно те агенты, которые в последние два месяца автономно вышли из-под контроля, атакуя реальные компании, такие как OpenAI, Anthropic и Meta.

Они также являются продавцами оборонных решений: у OpenAI есть проект Daybreak, у Anthropic — Mythos, а Microsoft только что запустила платформу кибербезопасности под названием Perception.

Таким образом, это письмо можно прочитать двояко, и обе трактовки верны: это и искреннее отраслевое предупреждение, и документ по развитию рынка.

Строка в письме о том, что «правительство должно ускорить программу Trusted Access», особенно заслуживает пристального внимания. Trusted Access, позволяющая определенным компаниям получать доступ к более мощным моделям раньше широкой общественности, является одновременно и рекомендацией по безопасности, и бизнес-требованием.

Главный вывод

Если из этого письма нужно оставить только одно предложение, то это должна быть оценка своевременности, а не моральная оценка:

М. Временной интервал, который называют более сотни компаний, лучше всех осведомленных об этой технологии, измеряется в м.

Что касается того, что произойдет после закрытия окна, в письме говорится: больницы, водоочистные сооружения, магистральная интернет-инфраструктура.