Глубокие фейки с согласия: в новом приложении Sora можно использовать образы друзей

Компания OpenAI представила крупное обновление своей системы генерации видео Sora, а также запустила одноименное социальное приложение, функциональность которого заимствует идеи у TikTok. Новая версия модели, Sora 2, демонстрирует более реалистичную физику, улучшенную согласованность сцен и возможность генерации звука. Однако главной особенностью стал запуск мобильного приложения, в центре которого — функция «камео», позволяющая с согласия пользователей помещать их цифровые образы в искусственно созданные видео.

Приложение Sora для iOS ориентировано на создание коротких видео, где пользователи могут записать короткий клип и образец голоса, а затем их друзья получают возможность «вставлять» их в ИИ-генерируемые сценарии. Каждый пользователь сохраняет полный контроль над своим цифровым образом: он самостоятельно определяет круг лиц, которые могут его использовать, и в любой момент может отозвать разрешение или удалить созданные с его участием видео.

Компания подчеркивает, что дизайн системы построен вокруг принципов согласия и модерации. Публичные личности не могут появляться в видео, если они сами не загрузят свое «камео» и не дадут явного разрешения. Для подростков действуют более строгие настройки и суточные лимиты на использование ленты, а родители могут регулировать параметры через систему родительского контроля ChatGPT.

На данный момент приложение доступно только по приглашениям на территории США и Канады. Длина клипов ограничена 10 секундами. Сама модель Sora 2 остается бесплатной с ограничениями по использованию, в то время как подписчики ChatGPT Pro получают доступ к более продвинутой версии на сайте sora.com.

Этот запуск знаменует новый этап в развитии генеративного искусственного интеллекта, одновременно открывая сложные вопросы о будущем цифровой идентичности и о том, какую часть интернета мы готовы доверить созданию искусственному интеллекту.