Когда искусственный интеллект помогает учёным, а когда создаёт новые проблемы
Учёные изучили, насколько искусственный интеллект действительно помогает в научных исследованиях, и обнаружили, что его польза сильно зависит от типа задачи. ИИ хорошо справляется с подготовкой текста, поиском информации и критическим анализом, но при сложных физических расчётах способен создавать ошибки, которые выглядят убедительно и могут оставаться незамеченными. Развитие больших языковых моделей привело к тому, что системы искусственного интеллекта всё чаще используются в научной работе.
Исследователи применяют их для анализа публикаций, написания программного кода, подготовки текстов и поиска новых идей.
Однако главный вопрос остаётся открытым: действительно ли ИИ повышает качество исследований или только делает отдельные этапы работы быстрее. Чтобы проверить это, автор исследования Чун Хуан создал контролируемую виртуальную среду, в которой ИИ-модели выступали в роли исследователей-астрономов. Такой подход позволил сравнить выполнение научных задач без помощи ИИ и с разными вариантами использования искусственного интеллекта. В эксперименте участвовали 144 виртуальных исследователя с различными характеристиками, включая опыт работы, способность проверять результаты и отношение к использованию ИИ. Им предложили 2592 исследовательские задачи из разных областей астрофизики, включая обработку данных, программирование, анализ литературы, физические выводы и проверку научных гипотез.
Всего было выполнено 12 960 отдельных эпизодов работы. Исследователи сравнили несколько сценариев использования искусственного интеллекта — от осторожного подхода с обязательной проверкой результатов до более доверительного варианта, при котором пользователь принимает большую часть ответов модели без дополнительного анализа. Результаты показали, что ИИ наиболее полезен там, где важны работа с информацией и языком. Модели помогали лучше писать тексты, обобщать научные статьи, предлагать идеи и анализировать аргументы. В таких задачах ошибки обычно легко обнаружить, а человек сохраняет контроль над итоговым результатом.
Однако ситуация менялась при выполнении задач, требующих последовательных математических рассуждений и физических расчётов. В таких случаях искусственный интеллект мог создавать решения, которые выглядели профессионально и содержали правильную научную терминологию, но при этом включали серьёзные ошибки в формулах, вычислениях или единицах измерения. Авторы приводят пример расчёта отношения светимости аккреции к пределу Эддингтона для чёрной дыры.
В одном из случаев модель получила значение около 560, хотя правильный результат составлял примерно 0,5. Ошибка была огромной, однако ответ выглядел как полноценный научный расчёт и сопровождался утверждением, что проверка была выполнена. Исследование также показало, что влияние ИИ зависит от конкретной модели. Основной эксперимент проводился с использованием Qwen3:8B, после чего авторы повторили анализ с DeepSeek-R1:8B. Вторая модель показала другие результаты: при правильной стратегии проверки она чаще повышала качество работы и снижала вероятность серьёзных ошибок. Главный вывод работы заключается в том, что вопрос уже не стоит в выборе между использованием или отказом от ИИ в науке.
Важнее понимать, какие задачи можно безопасно передавать искусственному интеллекту, а какие требуют обязательной проверки человеком. Исследование показывает, что ИИ может стать мощным инструментом для учёных, но только при правильной организации рабочего процесса. Скорость подготовки информации и генерации идей сама по себе не гарантирует получение правильного научного результата. В будущем исследователи планируют расширять такие эксперименты, сравнивая больше моделей искусственного интеллекта и проверяя их работу в других научных областях — от биологии до физики высоких энергий.
Бодро и простым языком обсуждаем околополитические темы на моем канале "Гражданин на диване" (Гражданин на диване в МАХ), а интересную и познавательную информацию читаем на моем канале "Таблетка для головы" (Таблетка для головы в МАХ) и в ТикТоке. Ну и всяческие прикольные ситуации из жизни будут тут
Подписывайтесь!
Источник: masterok.livejournal.com
Комментарии: