Apple, Google и Microsoft вместе с другими гигантами начинают масштабную кампанию по усилению кибербезопасности с помощью модели Claude Mythos Preview

Крупная коалиция ведущих технологических компаний запустила новую инициативу, направленную на противодействие быстро растущей угрозе в сфере кибербезопасности, вызванной развитием передового искусственного интеллекта. Этот проект под названием Project Glasswing объединяет такие компании, как Amazon Web Services, Anthropic, Apple, Google, Microsoft, NVIDIA и другие. Группа нацелена на обеспечение безопасности критически важных программных систем в тот момент, когда модели ИИ начинают превосходить большинство людей в выявлении и использовании уязвимостей. Данное объявление последовало за внутренним тестированием новой модели Anthropic под названием Claude Mythos Preview, которая продемонстрировала способность находить тысячи серьезных программных ошибок в широко используемых системах.

Anthropic и её партнеры заявляют, что эта модель знаменует собой поворотный момент в кибербезопасности. Claude Mythos Preview уже идентифицировала высокоопасные уязвимости в основных операционных системах и веб-браузерах. Компании предупреждают, что такие возможности вскоре могут распространиться за пределы контролируемых сред, что снизит порог для кибератак и увеличит их масштаб и сложность. Учитывая темпы прогресса в области ИИ, это может произойти очень скоро, причем потенциально не только у тех участников, которые стремятся к безопасному развертыванию таких технологий. Ставки в этой борьбе высоки: киберпреступность уже обходится мировой экономике в сотни миллиардов долларов ежегодно, а атаки на больницы, объекты инфраструктуры и правительственные системы продолжают расти.

Project Glasswing будет использовать возможности ИИ по взлому систем, но только для их защиты. Участвующие организации развернут модель Anthropic для сканирования, тестирования и защиты своих систем. Эта инициатива рассматривается как срочная попытка применить данные возможности для оборонительных задач. Помимо крупнейших технологических гигантов, в проект входят более 40 дополнительных организаций, которые обслуживают критически важную инфраструктуру и программное обеспечение с открытым исходным кодом. Компания Anthropic обязалась выделить до 100 миллионов долларов в виде кредитов на использование своих технологий для поддержки этих усилий. Работа будет сосредоточена на обнаружении уязвимостей, тестировании на проникновение, безопасности конечных точек и повышении надежности программного обеспечения. Компании также будут обмениваться результатами своих исследований для улучшения защиты во всей отрасли, поскольку ни одна организация не может решить проблемы кибербезопасности в одиночку.

Данный проект отражает растущую обеспокоенность тем, что ИИ может склонить чашу весов в пользу злоумышленников, если защита не будет развиваться достаточно быстро. Учитывая, что возможности передовых моделей ИИ могут существенно продвинуться уже в ближайшие несколько месяцев, организаторы считают, что действовать нужно немедленно. Anthropic планирует опубликовать результаты своей работы в течение 90 дней, подготовив отчет, в котором будут подробно описаны устраненные уязвимости и извлеченные уроки, когда это будет возможно. Инициатива также включает финансирование групп, работающих над безопасностью открытого исходного кода, и сотрудничество с правительственными учреждениями. Официальные лица США уже обсуждают с Anthropic последствия использования этой модели. В долгосрочной перспективе партнеры предлагают создать независимый орган для разработки стандартов кибербезопасности в эпоху ИИ, подчеркивая, что сегодняшнее объявление — это лишь начало долгосрочных усилий, требующих широкого участия всей технологической индустрии и не только.