Искусственный интеллектНовостиЦифровые технологии

Новый ИИ создает портреты, которые воспринимаются как более правдоподобные, чем реальные лица

Появление искусственного интеллекта (ИИ), одной из самых передовых областей технологии нашего времени, возможно, уже радикально изменило наше восприятие мира. Новое исследование показало, что новый искусственный интеллект способен создавать ультрареалистичные искусственные портреты, которые в целом оцениваются как более достоверные (заслуживающие доверия), чем реальные люди. Результаты неожиданные и впечатляющие, но они оставляют облако скептицизма, нависшее над миром, поскольку киберпреступность продолжает расти.

Исследование, опубликованное в американском журнале Proceedings of the National Academy of Sciences (PNAS), было проведено двумя исследователями из Калифорнийского университета в Беркли и Ланкастерского университета в Англии. Результатом их исследовательских усилий стал искусственный интеллект, который они назвали StyleGAN2.

До недавнего времени мы всегда могли отличить сгенерированное компьютером изображение от настоящей фотографии, даже если оно было создано на основе реальных данных. Но чем больше развиваются технологии ИИ, тем более реалистичными становятся изображения. Сегодня любой может быть одурачен поддельными портретами. Многие киберпреступники воспользовались этим, чтобы распространять в сети клеветнические и поддельные видео (или Deepfake), выдавая себя за людей в злонамеренных целях.

В больших масштабах эти действия могут даже влиять на жизнь людей и целых стран, например, выдавая себя за политиков. Добавьте к этому гиперподключенный мир, где доступ к информации практически неограничен, и вы получите взрывной коктейль.

В новом исследовании StyleGAN2 показал впечатляющие результаты, которых никогда ранее не достигал искусственный интеллект. "Мы обнаружили, что искусственные лица не только очень реалистичны, но и оцениваются как более достоверные, чем реальные лица", — рассказал Scientific American соавтор исследования, профессор Калифорнийского университета Хани Фарид.

Тесты с участием 800 различных лиц

Авторы провели эксперименты, в которых участников просили отличить искусственные лица от реальных и оценить "уровень доверия" (или надежности), который они внушали.

В первом эксперименте 315 участников попросили классифицировать 128 лиц, выбранных из 800, как "настоящие" или "искусственные". Общий показатель успешности составил 48%, что близко к рандомизированному показателю в 50%. Во втором эксперименте 219 новых участников были проинструктированы о том, как отличать настоящие лица от поддельных (еще 128 лиц были взяты из той же партии в 800 лиц из первого эксперимента). Вердикт: хотя процент успеха был выше, он не превысил 59%.

В третьем эксперименте 223 участников также попросили оценить только "надежность" 128 лиц из того же набора 800 по шкале от 1 (очень ненадежные) до 7 (очень надежные). Еще более поразительным был тот факт, что средний балл для искусственных лиц показал, что они были оценены как на 7,7% более заслуживающие доверия, чем реальные лица. Эта воспринимаемая достоверность не различалась по расовому цвету, но исследователи обнаружили вариативность для женских портретов, которые были оценены как значительно более достоверные, чем мужские.

Реальные (R) и искусственные (S) лица, лучшие (верхняя и верхняя середина) и худшие (нижняя и нижняя середина) по рейтингу участников. Софи Дж. Соловейчик и др.

"Наша оценка фотореалистичности искусственного интеллекта синтезированных лиц указывает на то, что механизмы синтеза пересекли "долину смущения" и способны создавать лица, неотличимые от реальных - и более достоверные, чем реальные лица", — поясняют исследователи в своем заявлении.

Рискованная технология?

Хотя это и большой научно-технический прорыв, он вызывает некоторые опасения, особенно если он попадет в руки злоумышленников. С такими ИИ, как StyleGAN2, может возникнуть риск того, что глубокие подделки перестанут быть обнаруживаемыми. Более того, доступность технологии позволяет любому человеку создавать и использовать искусственные портреты по своему усмотрению. По словам исследователей, для этого даже не нужно владеть сложными техническими инструментами.

Чтобы избежать этого риска, авторы предлагают ввести рекомендации по параметрам, регулирующим создание и распространение изображений, сгенерированных компьютером. Например, можно использовать водяные знаки, обычно применяемые для защиты оригинальных произведений.

Подписывайтесь на нас
Back to top button