OpenAI готовит инструмент для обнаружения изображений, генерируемых Dall-E 3
Компания OpenAI осознает риски, связанные с Dall-E 3, новым генератором изображений, управляемым искусственным интеллектом. Поэтому компания работает над созданием инструмента, который позволит идентифицировать все изображения, созданные искусственным интеллектом.
OpenAI представит третье поколение Dall-E осенью этого года. Интегрированная с ChatGPT, эта итерация должна позволить компании догнать такие генераторы изображений, как MidJourney, Stable Diffusion и Firefly от Adobe. Пока Dall-E 3 доступен только для подписчиков ChatGPT Plus, которые являются участниками программы бета-тестирования OpenAI.
В преддверии выхода финальной версии Dall-E 3 компания OpenAI объявила о создании инструмента, способного определить, было ли изображение сгенерировано ее искусственным интеллектом. На мероприятии WSJ Tech Live, организованном газетой Wall Street Journal, Мира Мурати, директор компании по новым технологиям, кратко рассказала о проекте.
OpenAI обещает эффективный инструмент для 99% изображений
По словам представителей OpenAI, инструмент, который пока проходит внутреннее тестирование, способен идентифицировать изображение, созданное Dall-E, в 99% случаев. На своем сайте OpenAI описывает систему как "классификатор происхождения". Компания заявляет, что хочет разработать ее таким образом, чтобы пользователи, использующие Dall-E 3 для создания творений, не чувствовали, что за ними наблюдают.
С помощью этого будущего инструмента компания надеется бороться с распространением глубоких подделок и фальшивых новостей, подпитываемых генеративным искусственным интеллектом. Для распространения ложной информации в социальных сетях многие пользователи Интернета не гнушаются создавать фотомонтажи с помощью искусственного интеллекта. Некоторые из их творений уже поражают своей реалистичностью.
В то же время некоторые недобросовестные люди используют ИИ для подделки знаменитостей. Например, deepfake Тома Хэнкса начал продавать в Интернете стоматологические страховки. Наконец, ИИ сопровождается ростом числа порнографических deepfake, выполняемых без согласия пользователя.
К сведению, ранее OpenAI уже запускал подобный инструмент для ChatGPT. Система, получившая название AI Text Classifier, использовалась для определения вероятности того, что текст написан не человеком, а искусственным интеллектом. К сожалению, этот инструмент быстро показал свое несовершенство. Классификатор иногда ошибался и пропускал через себя большое количество текстов, написанных искусственным интеллектом. Достаточно было внести несколько изменений, чтобы исказить результаты. Через несколько месяцев компания решила отказаться от использования этого инструмента, сославшись на его "низкую точность".