OpenAI представила GPT-6 Cyber, которая обнаружила 81 серьёзную уязвимость в Firefox
Компания OpenAI представила специализированную модель искусственного интеллекта GPT-6 Cyber, предназначенную для поиска уязвимостей, проверки защищённости программ и разработки исправлений. В ходе испытаний система обнаружила 81 ранее неизвестную уязвимость высокой степени опасности в браузере Firefox и помогла создать 948 работающих способов эксплуатации ошибок в ядре Linux. На тесте ExploitGym новая модель показала результат 48,5%, что на 51% выше показателя предыдущей GPT-5.6 Cyber.
Модель создана на основе GPT-6 Astra, но прошла дополнительное обучение для решения специализированных задач информационной безопасности. Она способна анализировать программный код, находить потенциальные ошибки, воспроизводить сбои и проверять, можно ли использовать обнаруженную уязвимость для получения несанкционированного доступа. Разработчики также уделили особое внимание соблюдению ограничений, установленных специалистами во время проверки защищённости систем.
Для оценки возможностей модели OpenAI использовала тест ExploitGym, в котором искусственный интеллект должен найти способ эксплуатации заранее определённой уязвимости на удалённом сервере. GPT-6 Cyber успешно выполнила 48,5% заданий против 32,1% у GPT-5.6 Cyber. Таким образом, абсолютный прирост составил 16,4 процентного пункта, а относительное улучшение — около 51%. По данным OpenAI, специализированная модель также превосходит универсальную GPT-6 Astra в большинстве испытаний, связанных с информационной безопасностью.
Другой тест проверял способность находить уязвимости в работающих веб-приложениях без доступа к их исходному коду. В таких условиях исследователи могут взаимодействовать с сервисом только через его доступные интерфейсы и анализировать ответы на запросы. GPT-6 Cyber обнаружила 40,3% предусмотренных испытанием уязвимостей, тогда как GPT-6 Astra — 32%. Это показывает преимущество специализированной модели при исследовании программ, внутреннее устройство которых заранее неизвестно.
Одним из наиболее заметных практических результатов стала проверка браузера Firefox. Специалисты OpenAI использовали GPT-6 Cyber для поиска ошибок в коде, который ранее уже неоднократно проверялся современными системами искусственного интеллекта. В результате были обнаружены 81 ранее неизвестная уязвимость, оценённая Mozilla как опасная. Ещё для 30 уже зарегистрированных проблем модель помогла установить, что их возможные последствия серьёзнее первоначальной оценки.
Исследователи передали Mozilla описания найденных ошибок, воспроизводимые тесты и предлагаемые исправления. Разработчики Firefox начали выпускать обновления вскоре после получения отчётов. Инженер Mozilla Брайан Гринстид подтвердил, что новая модель помогла обнаружить серьёзные проблемы в одном из наиболее тщательно проверяемых программных продуктов и подготовить исправления для миллионов пользователей.
GPT-6 Cyber также использовалась в масштабном исследовании безопасности ядра Linux. Автоматизированная система воспроизвела 1724 уязвимости и смогла разработать работающие способы повышения локальных привилегий для 948 из них. Подобные ошибки позволяют пользователю с ограниченными правами при определённых условиях получить полномочия администратора системы. По заявлению OpenAI, сопровождающим Linux уже переданы сведения о 304 наиболее серьёзных проблемах вместе с предварительными вариантами исправлений.
Отдельным направлением разработки стала защита от действий за пределами разрешённой области проверки. В испытании ExploitGym Honeypot модели предоставляли доступ к дополнительным уязвимым сервисам, которые технически можно было атаковать, но которые не входили в поставленную задачу. Без дополнительных инструкций безопасности GPT-6 Cyber соблюдала установленные ограничения в 99,93% случаев, тогда как GPT-5.6 Cyber — в 94,49%. При включении специальных защитных инструкций новая модель не нарушила границы тестирования ни в одном из проведённых испытаний.
Эти результаты не означают, что модель гарантированно будет соблюдать ограничения в любых реальных условиях. По итогам оценки возможностей OpenAI присвоила GPT-6 Cyber уровень Critical в категории кибербезопасности согласно собственной системе Preparedness Framework. Такой статус отражает высокую способность модели самостоятельно находить и эксплуатировать серьёзные уязвимости. Аналогичную классификацию ранее получила GPT-6 Astra, тогда как GPT-5.6 Cyber относилась к уровню High.
Из-за потенциальных рисков новая модель не предоставляется всем пользователям ChatGPT. Первоначально GPT-6 Cyber доступна через API и платформу Codex ограниченной группе организаций, получивших специальное разрешение в программе Daybreak Red. Для использования предусмотрены проверка клиентов, ограничения доступа, контроль подозрительной активности и дополнительные меры защиты критической инфраструктуры. OpenAI планирует постепенно расширять доступ среди одобренных участников программы.