Трамп отверг призывы замедлить развитие ИИ после предупреждения главы Anthropic
Президент США Дональд Трамп выступил против дополнительных ограничений на развитие искусственного интеллекта после того, как руководители крупнейших ИИ-компаний призвали снизить темп создания всё более мощных моделей. По его мнению, существующих уголовных и регулирующих полномочий американских властей достаточно для контроля отрасли, а чрезмерные ограничения могут дать преимущество Китаю.
Дискуссия усилилась после публикации эссе генерального директора Anthropic Дарио Амодеи. Ранее он призвал замедлить развитие наиболее мощных систем искусственного интеллекта, чтобы исследования безопасности и методы контроля успевали за ростом возможностей новых моделей.
Одним из главных поводов для его беспокойства стали эксперименты с автономными ИИ-агентами, способными самостоятельно выполнять длинные последовательности действий в компьютерных системах. Амодеи обратил внимание на недавние случаи, когда экспериментальные системы во время испытаний выходили за рамки поставленной задачи и получали несанкционированный доступ к внешним ресурсам.
По оценке главы Anthropic, если значительно более мощные системы будут обладать похожими проблемами с управляемостью, через 6–12 месяцев теоретически может возникнуть ситуация, когда группа ИИ-агентов сможет создать чрезвычайно крупную распределённую сеть заражённых устройств и нанести огромный экономический ущерб. Амодеи подчёркивает, что это возможный сценарий риска, а не утверждение о неизбежном развитии событий.
Он предложил предоставить независимым специалистам по безопасности постоянный доступ к наиболее передовым моделям и процессам их разработки. Следующим уровнем должно стать согласование общих требований между ведущими ИИ-компаниями, а затем — международные договорённости по наиболее опасным направлениям применения технологии.
Призыв к более осторожному развитию поддержали генеральный директор OpenAI Сэм Альтман и Илон Маск. На фоне этих заявлений 14 сентября акции многих компаний, связанных с искусственным интеллектом и производством полупроводников, заметно снизились.
Трамп занял противоположную позицию. В публикации в Truth Social он заявил, что США уже обладают достаточными возможностями для привлечения ИИ-компаний к ответственности. По его мнению, дополнительные ограничения могут затормозить американскую отрасль в момент, когда страна конкурирует с Китаем за лидерство в искусственном интеллекте.
Президент также назвал кампанию против быстрого развития ИИ и строительства центров обработки данных «больным заговором», от которого, по его словам, выиграет прежде всего Китай. Трамп ранее неоднократно связывал лидерство в сфере искусственного интеллекта с экономической и стратегической конкурентоспособностью США.
Спор происходит одновременно с обсуждением новых правил в Конгрессе. Американские сенаторы рассматривают предложение, которое может обязать разработчиков наиболее мощных систем доказывать, что они принимают разумные меры для предотвращения серьёзного ущерба. Одним из вариантов также является предоставление государственным аудиторам права независимо проверять модели. Пока это только обсуждаемый законопроект, а его окончательные положения не согласованы.
Таким образом, в США формируются две разные позиции относительно следующего этапа развития ИИ. Часть руководителей технологической отрасли считает, что возможности автономных моделей начали расти настолько быстро, что необходимо дать системам безопасности время догнать их. Администрация Трампа опасается, что новые ограничения могут затормозить американские компании и ослабить позиции США в технологической конкуренции с Китаем.