Исследование показало когда искусственный интеллект помогает учёным а когда создаёт новые проблемы
Учёные изучили, насколько искусственный интеллект действительно помогает в научных исследованиях, и обнаружили, что его польза сильно зависит от типа задачи. ИИ хорошо справляется с подготовкой текста, поиском информации и критическим анализом, но при сложных физических расчётах способен создавать ошибки, которые выглядят убедительно и могут оставаться незамеченными.
Развитие больших языковых моделей привело к тому, что системы искусственного интеллекта всё чаще используются в научной работе. Исследователи применяют их для анализа публикаций, написания программного кода, подготовки текстов и поиска новых идей. Однако главный вопрос остаётся открытым: действительно ли ИИ повышает качество исследований или только делает отдельные этапы работы быстрее.
Чтобы проверить это, автор исследования Чун Хуан создал контролируемую виртуальную среду, в которой ИИ-модели выступали в роли исследователей-астрономов. Такой подход позволил сравнить выполнение научных задач без помощи ИИ и с разными вариантами использования искусственного интеллекта.
В эксперименте участвовали 144 виртуальных исследователя с различными характеристиками, включая опыт работы, способность проверять результаты и отношение к использованию ИИ. Им предложили 2592 исследовательские задачи из разных областей астрофизики, включая обработку данных, программирование, анализ литературы, физические выводы и проверку научных гипотез. Всего было выполнено 12 960 отдельных эпизодов работы.
Исследователи сравнили несколько сценариев использования искусственного интеллекта — от осторожного подхода с обязательной проверкой результатов до более доверительного варианта, при котором пользователь принимает большую часть ответов модели без дополнительного анализа.
Результаты , что ИИ наиболее полезен там, где важны работа с информацией и языком. Модели помогали лучше писать тексты, обобщать научные статьи, предлагать идеи и анализировать аргументы. В таких задачах ошибки обычно легко обнаружить, а человек сохраняет контроль над итоговым результатом.
Однако ситуация менялась при выполнении задач, требующих последовательных математических рассуждений и физических расчётов. В таких случаях искусственный интеллект мог создавать решения, которые выглядели профессионально и содержали правильную научную терминологию, но при этом включали серьёзные ошибки в формулах, вычислениях или единицах измерения.
Авторы приводят пример расчёта отношения светимости аккреции к пределу Эддингтона для чёрной дыры. В одном из случаев модель получила значение около 560, хотя правильный результат составлял примерно 0,5. Ошибка была огромной, однако ответ выглядел как полноценный научный расчёт и сопровождался утверждением, что проверка была выполнена.
Исследование также показало, что влияние ИИ зависит от конкретной модели. Основной эксперимент проводился с использованием Qwen3:8B, после чего авторы повторили анализ с DeepSeek-R1:8B. Вторая модель показала другие результаты: при правильной стратегии проверки она чаще повышала качество работы и снижала вероятность серьёзных ошибок.
Главный вывод работы заключается в том, что вопрос уже не стоит в выборе между использованием или отказом от ИИ в науке. Важнее понимать, какие задачи можно безопасно передавать искусственному интеллекту, а какие требуют обязательной проверки человеком.
Исследование показывает, что ИИ может стать мощным инструментом для учёных, но только при правильной организации рабочего процесса. Скорость подготовки информации и генерации идей сама по себе не гарантирует получение правильного научного результата.
В будущем исследователи планируют расширять такие эксперименты, сравнивая больше моделей искусственного интеллекта и проверяя их работу в других научных областях — от биологии до физики высоких энергий.