Глава аппаратного обеспечения OpenAI покинула компанию из-за партнерства с Пентагоном
Руководитель отдела аппаратного обеспечения OpenAI Кейтлин Калиновски объявила о своей отставке, мотивируя это решение несогласием с недавним соглашением компании с Пентагоном. В сообщении, опубликованном в соцсети X, Калиновски заявила, что ее уход связан с поспешным развертыванием моделей искусственного интеллекта OpenAI на закрытых облачных сетях Министерства обороны США. По ее мнению, компания слишком быстро завершила сделку, не выделив достаточного времени для широкого внутреннего и общественного обсуждения всех последствий этого шага.
Калиновски подчеркнула, что, хотя ИИ действительно может играть важную роль в сфере национальной безопасности, существуют определенные границы, требующие гораздо более тщательного изучения. К числу таких спорных вопросов она отнесла слежку за американцами без судебного надзора и разработку летальных автономных систем без четкого разрешения со стороны человека. По ее словам, эти проблемы заслуживали более детального обсуждения до того, как партнерство было запущено.
Бывший руководитель аппаратного направления заявила, что испытывает «глубокое уважение» к генеральному директору OpenAI Сэму Альтману и всей команде, однако настаивает на том, что соглашение с Пентагоном было анонсировано до того, как были определены четкие механизмы защиты. «Это прежде всего вопрос управления. Такие вопросы слишком важны, чтобы сделки или объявления проводились в спешке», — написала Калиновски в своем следующем посте.
В OpenAI отреагировали на заявление, подчеркнув, что на следующий день после анонса партнерства компания подтвердила наличие дополнительных защитных мер, призванных ограничить сферы применения технологии. В минувшую субботу в компании вновь заявили, что их «красные линии» запрещают такие виды использования, как внутренняя слежка или развертывание автономных систем вооружений. В заявлении для Reuters в OpenAI отметили, что понимают: работа в этой области может вызывать сильные эмоции и споры. В компании пообещали продолжать диалог с сотрудниками, представителями правительства, гражданским обществом и сообществами по всему миру по мере развития дискуссии.
Партнерство с Пентагоном было анонсировано чуть более недели назад. Этому предшествовал провал переговоров между военным ведомством и компанией Anthropic, которая добивалась гарантий, что ее ИИ не будет использоваться для массовой слежки или в полностью автономных вооружениях.
После подписания соглашения Сэм Альтман пояснил, что в контракте учтены защитные меры, аналогичные тем, которые стали камнем преткновения в переговорах с Anthropic. Глава компании особо подчеркнул, что два ключевых принципа безопасности OpenAI — запрет на массовую слежку внутри страны и требование ответственности человека за применение силы, включая использование автономного оружия, — нашли отражение в соглашении с Пентагоном. По словам Альтмана, Министерство обороны согласно с этими принципами, закрепило их в законодательстве и политике, а контракт лишь воплощает их на практике.
Альтман также сообщил, что OpenAI будет внедрять технические средства защиты, чтобы модели вели себя должным образом, и развертывать их только в облачных сетях. Он добавил, что компания призывает Министерство финансов США распространить аналогичные условия на все фирмы, занимающиеся ИИ, утверждая, что такие нормы должны быть приемлемы для всей индустрии. По словам Альтмана, OpenAI предпочитает разрешать спорные ситуации с помощью практических соглашений, а не обращаясь к судебным или государственным механизмам. Согласно сообщениям СМИ, на встрече с сотрудниками Альтман заверил их, что правительство позволит компании разработать собственный «стек безопасности» для предотвращения злоупотреблений, и подчеркнул, что если модель ИИ откажется выполнять задачу, правительство не сможет заставить компанию отменить этот отказ.