OpenAI начнёт добавлять невидимые водяные знаки в тексты ChatGPT в Евросоюзе

OpenAI начнёт добавлять невидимые цифровые водяные знаки в тексты, создаваемые ChatGPT и Codex для пользователей в Евросоюзе. Система получила название textGrain и должна помочь определять, был ли текст сгенерирован или обработан моделями OpenAI.

Водяной знак не представляет собой скрытые символы, невидимые пробелы или специальную пунктуацию. Вместо этого textGrain незаметно меняет вероятности выбора слов и отдельных частей слов во время генерации. В результате в достаточно длинном тексте формируется статистический рисунок, который может обнаружить специальный детектор.

Обычный читатель увидеть такой сигнал не сможет. Текст внешне выглядит точно так же, как обычный ответ ChatGPT.

OpenAI объясняет внедрение технологии требованиями Закона Евросоюза об искусственном интеллекте. Статья 50 AI Act требует, чтобы системы, создающие синтетический текст, изображения, аудио и видео, по возможности снабжали такой контент машинно-читаемой и обнаруживаемой маркировкой.

Соответствующие требования начали применяться в Евросоюзе 2 августа 2026 года.

OpenAI планирует включать textGrain для подходящих текстовых ответов ChatGPT и Codex в странах Евросоюза в течение ближайших недель. Компания заявляет, что это коснётся пользователей всех тарифных планов в ЕС.

Для клиентов OpenAI API действует другой порядок. С 5 октября 2026 года они могут добровольно включать водяные знаки для некоторых моделей по всему миру. По умолчанию функция в API остаётся выключенной.

Одновременно OpenAI открыла приём заявок на доступ к собственному детектору водяных знаков. На первом этапе его получат только одобренные исследователи и специализированные организации.

Компания пока не делает детектор общедоступным из-за ограниченной надёжности метода.

Испытания OpenAI показали, что эффективность обнаружения сильно зависит от длины и типа текста. При допустимой частоте ложных срабатываний около 1% система обнаруживала водяной знак примерно в 80% текстов длиной 200 токенов по относительно свободным темам, например психологии.

При длине около 400 токенов показатель достигал примерно 95%. Для математических текстов результат оказался заметно хуже, поскольку у модели меньше свободы при выборе формулировок.

Редактирование также быстро ослабляет статистический сигнал. В экспериментах с текстами длиной 400 токенов исходная вероятность обнаружения составляла около 92%.

После замены 10% слов синонимами она падала до 66%. При замене четверти слов детектор находил водяной знак уже примерно в 17% случаев.

Перевод и более глубокое переписывание текста также способны заметно уменьшить вероятность обнаружения.

Из-за этого наличие водяного знака нельзя использовать как абсолютное доказательство того, что весь материал написал искусственный интеллект. Сигнал лишь указывает, что OpenAI могла участвовать в создании или обработке части текста.

Водяной знак также не содержит сведений о пользователе. По данным OpenAI, детектор не может определить имя человека, его учётную запись, запрос к модели или конкретный разговор.

Система также не показывает, какую часть текста написал человек, кому принадлежит материал и является ли опубликованная информация достоверной.

Отсутствие обнаруженного водяного знака тоже не доказывает человеческое происхождение текста. Сигнал мог исчезнуть после редактирования или перевода, текст мог оказаться слишком коротким либо быть создан моделью, которая ещё не поддерживает эту технологию.

OpenAI заявляет, что в дальнейшем планирует опубликовать технологию textGrain с открытым исходным кодом и продолжить исследование её устойчивости к редактированию и переводу.

Компания уже использует другие технологии подтверждения происхождения контента. Для поддерживаемых изображений применяются Content Credentials и невидимые водяные знаки SynthID, а для аудио — SynthID. Теперь аналогичный механизм постепенно распространяется и на текст.