Сэм Альтман вмешался в конфликт Anthropic с Пентагоном из-за рисков использования ИИ в военных целях

Генеральный директор OpenAI Сэм Альтман выступил с инициативой по урегулированию конфликта между компанией Anthropic и Пентагоном, который, по его мнению, создает опасный прецедент для всей индустрии искусственного интеллекта. Ситуация обострилась после того, как Министерство обороны США потребовало от Anthropic снять ограничения с модели Claude AI для ее использования в «любых законных целях». Хотя Anthropic в целом готова к сотрудничеству с военным ведомством, компания выражает серьезные опасения, что это может привести к применению ее технологий в автономных вооружениях, системах массовой слежки за гражданами или в системах, где надежность работы ИИ не гарантирована. Ультиматум, срок которого истекает 27 февраля, ставит под угрозу действующий контракт Anthropic с Пентагоном на сумму 200 миллионов долларов и грозит компании статусом «поставщика с рисками для цепочки поставок» в случае отказа. Более того, в перспективе правительство может принудить компанию к сотрудничеству, используя правовые механизмы вроде Закона о военном производстве.

Сэм Альтман, комментируя ситуацию, подчеркнул, что проблема выходит далеко за рамки спора между Anthropic и Министерством обороны и касается всех игроков рынка. Выступая на условиях сохранения доверия к позиции Anthropic по вопросам безопасности, Альтман заявил, что данный конфликт грозит установить неприемлемые правила игры, при которых компании будут вынуждены отказываться от собственных протоколов безопасности под давлением. Во внутренней служебной записке он отметил, что спор идет не столько о способах применения ИИ, сколько о контроле: частная компания не должна быть могущественнее демократически избранного правительства, однако сложившаяся ситуация рискует подорвать национальную безопасность и лидерство США в сфере искусственного интеллекта, если государство прибегнет к крайним мерам.

Альтман также сообщил, что OpenAI разработала собственное предложение для Пентагона, которое позволит развертывать модели ИИ в закрытых (классифицированных) средах, не противореча принципам компании, и этот подход может быть масштабирован на другие исследовательские лаборатории. Развитие событий в ближайшее время определит не только судьбу одного контракта, но и будущие «правила взаимодействия» между Кремниевой долиной и государством. Исход этого противостояния решит, сохранится ли за частными компаниями «право этического вето» на использование их разработок в военных целях или же контроль полностью перейдет в руки государства.