«Искусственные» и «человеческие» ученые.
В последнее время меня стала особенно занимать тема Будущего Знания. Когда-то давно, в 2005/2006 годах довелось писать магистерскую диссертацию по дизайн-мышлению в лондонском университете как раз с фокусом на Knowledge Management / Knowledge Transfer, и вот, похоже, пришло время вернуться к теме, — на новом витке истории и опыта…
Одно из направлений этого интереса — поиск ответа на вопрос, где искать понимание того, как и в каком направлении человеку придется изменить свою когнитивистику, чтобы успешно конкурировать с вторжением ИИ в нашу жизнь?
Одним из «знаниевых» фронтиров является наука, — место, где происходит столкновение человека с новым, где углубляется его понимание устройства этого мира.
По-моему, изучение такой темы, как Автоматизация Науки, где мы видим зарождение дихотомии «искусственные» и «человеческие» ученые, может помочь расставить нужные акценты.
Illustration: The Project Twins, из статьи Nature
The automation of science: Emerging ‘co-scientist’ systems.
Вот для размышлений три статьи 2025/2026 на эту тему, где обсуждается создание совместных команд со специализированными AI ‘scientists’, полученные результаты и прогнозы для людей-ученых (ну и в перспективе, для всех нас, knowledge workers):
- AI ‘scientists’ joined these research teams: here’s what happened. Emerging ‘co-scientist’ systems use chatbots to mimic the deliberations of a research group. Nature, 2025
- What the Rise of AI Scientists May Mean for Human Research/ Tech companies have touted scientific findings from AI systems. But can they truly produce bona fide advancements? Undark, 2026
- Why AI cannot do good science without humans. With the arrival of ‘AI scientists’, it’s as well to remember that human wisdom, empathy and sheer messiness are as much part of progress as are process and efficiency. Nature, 2026
«…В преддверии конференции по искусственному интеллекту рецензенты рассматривали, наряду с другими работами, статьи, написанные «Карлом». Рецензенты не знали, что, в отличие от других авторов, Карл не был научным исследователем, а представлял собой систему искусственного интеллекта, разработанную технологической компанией Autoscience Institute. По мнению людей, участвовавших в процессе рецензирования, статьи были достаточно хороши для конференции: в ходе двойного слепого рецензирования три из четырех статей, написанных Карлом, были приняты.
Карл присоединяется к растущей группе так называемых «ученых в области ИИ» (“AI scientists”), в которую входят Робин и Космос, исследовательские агенты, разработанные некоммерческой исследовательской лабораторией FutureHouse из Сан-Франциско, и The AI Scientist, представленный японской компанией Sakana AI, и другие «искусственные ученые». ‘AI scientists’ состоят из множества больших языковых моделей. Например, Карл отличается от чат-ботов тем, что он предназначен для генерации и проверки идей. Компании утверждают, что эти системы на основе ИИ могут анализировать литературу, выдвигать гипотезы, проводить эксперименты, анализировать данные и получать новые научные результаты с различной степенью автономности.
Критики этих систем, включая ученых, которые сами изучают искусственный интеллект, опасаются, что ученые, занимающиеся ИИ, могут вытеснить исследователей следующего поколения, наводнить систему низкокачественными или ненадежными данными и подорвать доверие к научным открытиям. Эти достижения также ставят вопрос о том, какое место ИИ занимает в изначально социальной и человеческой научной деятельности, считает Дэвид Лесли, директор по этике и исследованиям ответственных инноваций в Институте Алана Тьюринга в Лондоне. «Существует разница между полноценной совместной научной практикой и тем, что происходит с вычислительной системой».
Только в 2025 году как минимум три компании и исследовательские лаборатории — Sakana AI, Autoscience Institute и FutureHouse (которая в ноябре запустила коммерческое ответвление под названием Edison Scientific) — представили свои первые результаты, сгенерированные «научным ИИ». Некоторые ученые из правительства США также освоили искусственный интеллект: исследователи из трех федеральных лабораторий — Аргоннской национальной лаборатории, Ок-Риджской национальной лаборатории и Лоуренс-Берклиской национальной лаборатории — разработали полностью автоматизированные лаборатории материаловедения на основе ИИ.
Системы могут «в основном устанавливать связи между миллионами, миллиардами, триллионами переменных» способами, недоступными для человека, — сказала Лесли. «Мы так не работаем, и поэтому, благодаря этой способности, открывается множество возможностей».
Однако исследователи также подняли тревожные вопросы. Хотя Нихар Шах, специалист по информатике из Университета Карнеги-Меллона, «более оптимистично настроен» в отношении того, как системы ИИ могут способствовать новым открытиям, он также обеспокоен проблемой «халтуры ИИ», или переизбытком научной литературы, состоящей из низкокачественных и малоинновационных исследований, созданных с помощью ИИ.
В недавнем исследовании, которое еще не прошло рецензирование, Шах и его коллеги протестировали две модели ИИ, помогающие в научном процессе: AI Scientist-v2 от Sakana (обновленная версия оригинала) и Agent Laboratory — систему, разработанную компанией AMD, производителем полупроводников, в сотрудничестве с Университетом Джонса Хопкинса для выполнения задач помощника исследователя. Цель исследования Шаха заключалась в изучении возможных недостатков этих систем.
Одна из систем искусственного интеллекта, AI Scientist-v2, показала 95-процентную, а иногда и 100-процентную точность при выполнении заданной задачи, что было невозможно, поскольку исследователи намеренно внесли шум в набор данных. По всей видимости, обе системы иногда создавали синтетические наборы данных для проведения анализа, указывая в итоговом отчете, что анализ проводился на исходном наборе данных. Для решения этой проблемы Шах и его команда разработали алгоритм, выявляющий методологические ошибки, такие как выбор благоприятных наборов данных для проведения анализа и избирательное представление положительных результатов.
Некоторые исследования показывают, что генеративные системы искусственного интеллекта также не смогли генерировать инновационные идеи. Одно исследование пришло к выводу, что один из генеративных чат-ботов на основе ИИ, ChatGPT4, способен лишь на инкрементальные открытия, в то время как недавнее исследование, опубликованное в прошлом году в журнале Science Immunology, показало, что, несмотря на способность точно анализировать литературу, чат-боты на основе ИИ не смогли генерировать содержательные гипотезы.
Исторически наука всегда была глубоко человеческим делом, которое Лесли описал как непрерывный процесс интерпретации, создания мира, переговоров и открытий. Важно отметить, добавил он, что этот процесс зависит от самих исследователей, а также от их ценностей и предубеждений.
Даже если эти системы будут продолжать использоваться, место человека в лаборатории, вероятно, не исчезнет, сказал Шах. «Даже если ученые, работающие с ИИ, станут сверхспособными, роль для людей все равно останется, но это само по себе не совсем ясно, — сказал Шах, — насколько способными будут ученые, работающие с ИИ, и насколько останется место для людей?»
«Сама прогностическая модель — это лишь малая часть очень сложной и глубокой, непрерывной практики, которая имеет множество уровней институциональной сложности, методологической сложности, исторической сложности, уровней дискриминации, возникших из-за других несправедливостей, определяющих, кто имеет право заниматься наукой, кто не имеет права заниматься наукой, что наука сделала для кого, а что не сделала, потому что люди не обращаются за ответами на свои вопросы».
Некоторые эксперты рассматривают ученых-ИИ как дополнительный, расширяющий инструмент для исследователей, помогающий извлекать ценные знания, подобно микроскопу или телескопу. Компании также заявляют, что не намерены заменять ученых. «Мы не считаем, что роль ученого-человека уменьшится. Наоборот, роль ученого изменится и адаптируется к новым технологиям, поднявшись по цепочке создания ценности», — написала компания Sakana AI, объявляя о создании своего ИИ-ученого».
Мой краткий вывод.
Наука в ее текущем состоянии будет идти по пути все большей интеграции AI-scientists, и недалеко то время, когда ключевым станет вопрос:
Does science need humanity?..
Ответ на него будет, в общем и целом, нет. Только оттолкнувшись от этого «дна» и сделав соответствующие выводы, человечество сможет развернуться, чтобы попробовать ответить на этот вопрос утвердительно. Но я не знаю, когда это будет…
А что думаете вы?
будущее научного познания
будущее знания
the future of science
ai agents
ai science
knowledge management
knowledge transfer
будущее человека
будущее человеческого интеллекта
человеческий vs искусственный интеллект