Anthropic приостановила доступ к передовым ИИ-системам из-за требований Вашингтона
Американская компания Anthropic объявила о вынужденной приостановке доступа к своим самым продвинутым моделям искусственного интеллекта Claude Fable 5 и Claude Mythos 5 после распоряжения правительства США ограничить использование этих систем иностранными гражданами. По словам компании, власти сослались на соображения национальной безопасности, однако не предоставили подробных объяснений того, каким именно образом новые модели могут представлять угрозу.
Модели Claude Fable 5 и Claude Mythos 5 были представлены всего несколько дней назад. Первая предназначена для широкой аудитории, тогда как вторая имеет ограниченный доступ. В Anthropic заявили, что эти системы достигли принципиально нового уровня возможностей, который внутри компании получил обозначение «класс Mythos». Уже после анонса модели привлекли значительное внимание специалистов, поскольку их вычислительные способности оказались настолько высокими, что вызвали опасения в сфере кибербезопасности.
Ряд экспертов предупреждал, что модели уровня Mythos при использовании злоумышленниками способны облегчить проведение масштабных кибератак, потенциально затрагивающих финансовый сектор и объекты национальной безопасности. По этой причине Anthropic первоначально рассматривала возможность временно отложить запуск новых систем. В конечном итоге компания все же выпустила модели, но снабдила их специальными ограничениями, запрещающими применение в чувствительных областях, включая кибербезопасность.
Дополнительно компания ввела ограничения на использование моделей для задач, связанных с разработкой других крупных языковых моделей. Такое решение вызвало недовольство части разработчиков, которые обвинили Anthropic в намеренном ограничении возможностей платформы Mythos. В ответ компания пояснила, что опасается ускорения создания конкурентных ИИ-систем, которые могут не обладать сопоставимыми механизмами защиты и безопасности.
В Anthropic сообщили, что еще до запуска Mythos активно взаимодействовали с американскими государственными структурами по вопросам безопасности. Компания также отметила, что конкурирующие модели уже обладают схожими возможностями по обнаружению незначительных ошибок в программном коде. Тем не менее даже после проведенных консультаций правительство США потребовало закрыть доступ к моделям Mythos для иностранных пользователей.
Конфликт между Anthropic и американскими властями разворачивается на фоне уже существовавших разногласий. Ранее в этом году отношения между компанией и правительством США осложнились после того, как Anthropic отказалась предоставлять свои модели американским военным для внутреннего наблюдения и полностью автономных систем вооружений. Как сообщала газета Guardian, после этого компания была включена в список нежелательных поставщиков для государственных структур, причем данное решение должно вступить в силу позднее в текущем году.
По мнению наблюдателей, новое ограничение может быть связано как с вопросами безопасности, так и с продолжающимся противостоянием между компанией и властями. Хотя распоряжение правительства касалось исключительно иностранных граждан, Anthropic решила полностью отключить доступ к Fable 5 и Mythos 5 для всех пользователей без исключения, объяснив это необходимостью соблюдения требований регуляторов.
В официальном заявлении компания подчеркнула, что вынуждена немедленно деактивировать обе модели для всех клиентов ради обеспечения соответствия предписаниям властей. При этом доступ ко всем остальным моделям Anthropic остается без изменений.
Решение Вашингтона также вписывается в более широкую стратегию США по ограничению развития искусственного интеллекта у зарубежных конкурентов. Однако до настоящего времени подобные меры в основном касались экспорта высокопроизводительных микросхем и специализированного оборудования для ИИ, тогда как ограничения на использование самих моделей встречались значительно реже.
Обосновывая свое решение, американские власти заявили о наличии рисков, связанных с возможными методами обхода защитных механизмов моделей Mythos. Речь идет о так называемом «джейлбрейкинге» — техниках, позволяющих обходить встроенные ограничения и использовать систему для поиска уязвимостей в компьютерных сетях и программном обеспечении.
Главный специалист по информационным системам Пентагона Кирстен Дэвис заявила в социальной сети X, что существуют вещи более важные, чем доходы компаний, громкие заголовки и рыночная стоимость перед выходом на биржу, подчеркнув приоритет национальных интересов США. Ее комментарий появился вскоре после того, как стало известно, что месяц назад Anthropic конфиденциально подала документы для проведения первичного публичного размещения акций.
В самой компании считают действия правительства необоснованными и противоречащими принципам справедливого регулирования, основанного на фактах. По утверждению Anthropic, власти предоставили лишь устные сведения о предполагаемой уязвимости, которая, по мнению компании, носит ограниченный и неуниверсальный характер.
Представители компании заявили, что не согласны с тем, что обнаружение потенциальной, даже ограниченной, уязвимости может служить достаточным основанием для фактического отзыва коммерческого продукта, которым пользуются сотни миллионов людей. В Anthropic также выразили мнение, что сложившаяся ситуация может быть результатом недопонимания, и пообещали приложить все усилия для скорейшего восстановления доступа к моделям Fable 5 и Mythos 5.