Трамп и крупнейшие ИИ-компании подписали добровольное соглашение о безопасности искусственного интеллекта

Президент США Дональд Трамп и руководители крупнейших технологических компаний подписали добровольное соглашение о контроле безопасности систем искусственного интеллекта. Документ предусматривает внутренние проверки, независимый внешний аудит и контроль со стороны советов директоров компаний, но не имеет силы закона.

Соглашение было достигнуто 29 сентября после встречи в Белом доме. Среди подписавших его представителей отрасли Associated Press называет генерального директора Anthropic Дарио Амодеи, главу Google Сундара Пичаи, руководителя Meta* Марка Цукерберга, президента OpenAI Грега Брокмана, главу Nvidia Дженсена Хуанга и Илона Маска, возглавляющего xAI.

После встречи Трамп назвал документ «морально обязывающим» и сравнил его с конституцией. Однако соглашение остаётся добровольным: его положения сейчас не являются обязательными требованиями американского законодательства. Сам документ допускает, что в дальнейшем некоторые из этих правил могут быть закреплены в законах или нормативных актах.

Опубликованный текст предусматривает четыре основных уровня контроля. Компании должны создать внутренние системы наблюдения за поведением и возможностями моделей, отдельную команду для проверки работы этих механизмов, привлекать независимых внешних аудиторов и передавать результаты проверок специальному комитету совета директоров.

Внутренний контроль должен действовать как во время обучения моделей, так и после их запуска. Особое внимание предлагается уделять возможностям искусственного интеллекта в области кибербезопасности, биологических и химических рисков, а также способности моделей самостоятельно взаимодействовать с компьютерными системами.

В документе отдельно говорится о необходимости следить за тем, чтобы ИИ-системы не получали непредусмотренный доступ к технической инфраструктуре и не выполняли неразрешённые действия. Это особенно актуально по мере распространения автономных ИИ-агентов, способных самостоятельно работать с сайтами, программами и внешними инструментами.

Внешний аудитор должен независимо проверять, действительно ли внутренние средства безопасности работают так, как заявляет компания. Результаты этих проверок предполагается передавать комитету при совете директоров, который должен контролировать как внутренних разработчиков, так и внешних проверяющих.

Участники также договорились регулярно встречаться для разработки общих стандартов и обмена практиками безопасности. При этом конкретные технические пороги, единая процедура испытаний моделей или санкции за невыполнение соглашения в документе не установлены.

Администрация США рассматривает и дополнительный механизм контроля. После встречи Трамп сообщил, что обсуждается создание комитета примерно из десяти человек, который мог бы наблюдать за развитием отрасли. Состав такого органа, его полномочия и юридический статус пока не определены.

Сам подход основан прежде всего на самоконтроле компаний. Трамп заявил после встречи, что видит готовность отрасли самостоятельно следить за безопасностью своих разработок. В тот же день он вновь выступил против широких ограничений, которые, по его мнению, могли бы замедлить развитие американских технологий искусственного интеллекта.

Участники встречи при этом не демонстрируют полного единства по вопросу регулирования. Дарио Амодеи заявил, что технология несёт реальные риски, а механизм их снижения всё ещё остаётся предметом обсуждения. Независимые специалисты, опрошенные Associated Press, также расходятся в оценках: одни считают сочетание добровольного контроля и развития технологий приемлемым подходом, другие указывают на отсутствие обязательных требований и ответственности за нарушения.

Таким образом, соглашение впервые формализует общий набор добровольных процедур безопасности для ряда крупнейших американских разработчиков ИИ, но пока не создаёт нового государственного режима регулирования. Его практическое значение будет зависеть от того, насколько подробно компании раскроют методы аудита и будут ли положения документа позднее закреплены в законодательстве.

* Компания Meta и её продукты признаны экстремистскими, их деятельность запрещена на территории РФ.