Учёные предупредили что генеративный ИИ способен придумать несуществующее биологическое открытие

Генеративный искусственный интеллект способен помочь учёным обнаружить перспективное новое лекарство, но одновременно он может создать противоположную проблему — убедить исследователей в существовании биологического эффекта, которого на самом деле нет.

Генеративный ИИ создаёт новый контент, анализируя распространённые особенности и взаимосвязи, которые он обнаруживает в уже существующих примерах. Хотя эта технология получила широкую известность благодаря созданию текстов и изображений, исследователи всё активнее изучают её применение в биологии. ИИ используют для проектирования белков, моделирования клеток, восстановления недостающих результатов экспериментов и создания синтетических биологических данных.

Однако генеративные системы способны «галлюцинировать», то есть выдавать правдоподобную, но не соответствующую действительности информацию. В биологических исследованиях это может означать создание убедительного молекулярного паттерна или вывода, который выглядит научно обоснованным, но на самом деле не отражает реальные биологические процессы.

Такая ошибка способна иметь вполне реальные последствия. Искусственный интеллект может заставить исследователей отказаться от перспективного кандидата на лекарство, который действительно мог бы оказаться эффективным, направить их на разработку неработающего лечения, скрыть существующий биологический эффект или даже представить несуществующий механизм развития заболевания как новое научное открытие.

Эту проблему в своей статье рассматривает вычислительный биолог Томас Бюргер из Университета Гренобль-Альпы во Франции. В работе, опубликованной в журнале Patterns, учёный анализирует десять потенциальных направлений применения генеративного ИИ в биологических исследованиях и оценивает связанные с ними риски.

Большую роль в современной биологии играют омиксные исследования, которые позволяют получать огромные массивы данных о генах, белках и других молекулах. Искусственный интеллект способен помочь исследователям анализировать такой объём информации, который человеку чрезвычайно сложно обработать самостоятельно. Однако даже небольшие изменения, внесённые ИИ в сложные наборы данных, могут оказаться трудноуловимыми.

По мнению Бюргера, разные варианты использования генеративного ИИ не несут одинакового уровня риска. Ключевое различие заключается в том, используется ли результат работы искусственного интеллекта только как идея, которую затем проверят в реальном эксперименте, или же созданные ИИ синтетические данные начинают использоваться непосредственно в качестве научного доказательства.

Одним из относительно менее рискованных направлений является поиск потенциальных лекарств или белков. Модель способна быстро оценить огромное количество кандидатов и выбрать из них небольшую группу для последующих лабораторных испытаний.

Если искусственный интеллект ошибётся, исследователи могут отбросить перспективный кандидат, который в действительности мог бы сработать, либо потратить время и деньги на изучение вещества, которое в итоге окажется бесполезным. Однако окончательное решение всё равно должно приниматься на основе реального эксперимента. Выбранный ИИ кандидат должен продемонстрировать свой эффект в лаборатории, прежде чем его можно будет считать научным открытием.

Ситуация становится гораздо опаснее, когда созданные искусственным интеллектом данные начинают заменять реальные экспериментальные измерения.

Синтетические биологические данные действительно могут иметь важные преимущества. Они способны восполнять отсутствующие измерения, помогать защищать конфиденциальность пациентов, создавать группы для сравнения, снижать стоимость исследований и уменьшать количество животных, необходимых для экспериментов.

Однако если искусственный интеллект добавит в такие данные признак, которого в действительности никогда не существовало, исследователи могут решить, что обнаружили настоящий биологический эффект. В таком случае ИИ уже не просто ошибается в прогнозе будущего эксперимента. Его выдумка становится частью доказательной базы, на которой строится научный вывод.

«В большинстве случаев проблема заключается не в том, чтобы сравнить галлюцинацию с настоящим биологическим открытием», — объяснил Бюргер.

По его словам, гораздо более серьёзная проблема заключается в том, что реальные данные могут быть искажены галлюцинациями на протяжении сложного вычислительного процесса с использованием генеративного ИИ. Именно такие процессы позволяют преобразовывать исходные сигналы, полученные с помощью сложных биотехнологических методов, в биологически осмысленные описания молекулярных механизмов.

Иными словами, искусственный интеллект может работать с настоящими экспериментальными данными и незаметно изменить какой-либо сигнал. Такое изменение может быть настолько небольшим, что исследователи не заметят его, но при этом оно способно повлиять на конечный научный вывод.

Если на протяжении обработки данных какие-либо сигналы будут искажены, усилены или изменены в определённом направлении, это может привести к совершенно другим биологическим выводам. При этом исследователю будет трудно обнаружить проблему, если он не понимает глубоко, каким именно образом генеративная модель обрабатывала исходную информацию.

Реальный пример подобной проблемы уже был обнаружен при работе с AlphaFold 3. В статье, опубликованной в журнале Nature в 2024 году, разработчики этой модели сообщили, что AlphaFold 3 способен генерировать так называемые «галлюцинированные структуры» в неупорядоченных областях белков. При этом низкие показатели уверенности модели могут предупреждать исследователей о возможной проблеме.

Ошибки искусственного интеллекта не обязательно должны приводить только к появлению несуществующего биологического эффекта. Возможна и обратная ситуация. Модель способна настолько сильно исказить реальные данные, что исследователи не заметят настоящий эффект.

Это может привести к тому, что учёные пропустят доказательства эффективности определённого лечения и откажутся от терапии, которая в действительности могла бы работать.

При этом Бюргер отметил, что раньше он не задумывался о том, может ли галлюцинация искусственного интеллекта привести к настоящему научному открытию. Однако теперь исследователь допускает такую возможность.

«Я никогда раньше об этом не думал, но, думаю, вполне возможно, что галлюцинации могут привести к настоящим открытиям», — заявил учёный.

Бюргер сравнил такую ситуацию с неожиданными открытиями, которые иногда возникают из-за случайных ошибок в лабораторных экспериментах. В науке давно признаётся роль случайности и неожиданных результатов. По мнению исследователя, с моральной точки зрения не должно иметь принципиального значения, возникло ли неожиданное открытие благодаря галлюцинации генеративного ИИ или другой ошибке во время лабораторного эксперимента. В обоих случаях результат должен пройти последующую независимую проверку.

Именно способ использования результата искусственного интеллекта определяет степень опасности. Если вывод ИИ воспринимается исключительно как гипотеза, которую необходимо проверить экспериментально, его галлюцинация может остаться всего лишь неудачным предположением. Но если созданный системой результат принимается за реальное наблюдение, убедительная выдумка способна попасть в доказательную базу и в итоге быть ошибочно принята за часть биологической реальности.

Поэтому даже самый впечатляющий результат, предложенный искусственным интеллектом, нельзя считать научным открытием до тех пор, пока он не будет независимо подтверждён реальным экспериментом. Для биологических исследований это особенно важно, поскольку небольшое искажение данных на одном из этапов сложного вычислительного процесса способно изменить конечную интерпретацию и привести исследователей к неверному выводу.

Таким образом, генеративный ИИ одновременно открывает новые возможности для биологии и создаёт новый класс научных рисков. Системы искусственного интеллекта способны быстро анализировать огромные объёмы данных, проектировать молекулы и помогать находить перспективные направления исследований, однако их результаты нельзя автоматически рассматривать как доказательства. Любой вывод, способный изменить научное понимание биологического процесса, должен проходить проверку в реальном эксперименте.

Исследование опубликовано в журнале Patterns.