Мир уже несколько лет назад начал входить в зону техносингулярности (подробней [1, 2]). В ее нынешнем переосмысленном понимании, ключевыми характеристиками этой новой фазы развития человечества стали:

• неконтролируемая, экспоненциально нарастающая скорость изменений в жизни и деятельности людей;

• два качественных скачка (сложности и радикальной неопределенности), превращающие науку в «постнормальную»;

• появление второго носителя высшего интеллекта с внечеловеческим аналогом познания (генеративный ИИ), требующее тотального переформатирования мира - иной тип науки, экономики, социума, культуры, - что кардинально изменит людей и общество уже в ближайшие годы.

В прошлом я не раз использовал метафору “ловушка эскалатора” — подъем по эскалатору, с ускорением идущему вниз. Мы, человечество, все быстрее бежим вверх по эскалатору прогресса. Но и эскалатор тоже ускоряется под тяжестью нарастающей сложности и радикальной неопределенности мира (подробней здесь). И в итоге мы, всё более задыхаясь от скорости бега, почти не продвигаемся.

Именно так сегодня выглядит научный прогресс: число исследователей, публикаций и инвестиций в науку экспоненциально растёт, но подлинных прорывов всё меньше, а доля «прорывных» научных работ в общем объёме научных результатов падает .

Почему? Есть разные объяснения.

Например, Питер Тиль видит в этом замедлении прогресса культурные и метафизические основы, такие как взаимосвязь между христианством и научным развитием. Но, по сути, это лишь одно из возможных объяснений уже произошедшего.

Если же смотреть вперед, то уже на ближайшие годы причины замедления прогресса видятся иначе.

Вышеупомянутая “ловушка эскалатора” — бег на месте из-за компенсации роста масштабов научной работы усложнением и радикальной неопределенностью задач, — лишь усугубляется вхождением в зону техносингулярности.

Другой могучий тормоз — это «ловушка канона»: чем больше хайп, тем меньше шансов на прорыв. Информационный потоп новых работ заставляет учёных, чтобы их заметили, ссылаться на уже известные и цитируемые работы.

В результате:

• революционные идеи тонут в шуме (системном, меж- и внутри-экспертном – подробней здесь);

упала в десятки раз;

рецензирования научных статей становится абсолютной (статью нобелиата одобряют 77% рецензентов, а ту же статью новичка 65% пускают в отстой)

В 2020-х всё вышеназванное привело к тому, что многим стало казаться, будто ситуация зашла в тупик. Но тут появилась новая надежда — искусственный интеллект. Генеративные нейросети стали видеться многим неким «интеллектуальным допингом», способным ускорить наш бег вверх по эскалатору. Каждый ИИ-агент заменит десятки или даже сотни учёных, умножая научную продуктивность.

В свежей работе Арвинда Нараянана и Саяша Капура «Could AI slow science?» авторы ставят отрезвляющий диагноз.

Почему так произойдёт?

Эта смена могла бы вообще не произойти, существуй тогда ИИ современного уровня. Ведь главная проблема геоцентрической модели была вовсе не её неточность. Средневековые астрономы могли предсказывать движение планет с поразительной точностью, используя систему эпициклов. Но эти уточнения становились все сложнее, из-за чего и стали искать альтернативу. И гипотетически, если бы тогда существовал мощный вычислительный инструмент (аналог современных ИИ), способный мгновенно подбирать новые эпициклы под любые наблюдения, то геоцентрическая модель могла бы еще очень долго оставаться рабочей.

Гениальный астроном Кеплер совершил переворот в науке, открыв законы движения планет. Но если бы у него под рукой был современный ИИ, Кеплер бы с его помощью просто рассчитал бы более точные траектории, а не искал новую теорию, переосмысливающую устройство Вселенной.

Современная нейросеть, обученная предсказывать движение планет, способна идеально рассчитывать орбиты. Но она никогда не откроет законы Кеплера и не совершит революцию, подобную переходу от геоцентрической к гелиоцентрической модели.

Причина этого в том, что ИИ настроен исключительно на точность предсказаний, а не на понимание и поиск простых, глубоких и красивых объяснений.

Наглядная иллюстрация такого прогнозирование без понимания приведена в работе «Что обнаружила фундаментальная модель? Использование индуктивного смещения для исследования моделей мира». На рисунке ниже из этой работы показано, что модель-трансформер, обученная на 10 миллионах планетарных орбит, превосходно предсказывает орбиты, прекрасно обходясь без знания основных законов гравитации, которые формируют эти орбиты.

Это значит, что человечество может застрять в цифровых аналогах устаревших систем Птолемея — удобных, точных, но совершенно неверных.

Это и есть центральная опасность ИИ для науки.

Учёные, вооружённые мощными нейросетями, рискуют разучиться задавать фундаментальные вопросы и искать глубокие ответы.

И такая перспектива весьма вероятна. Ведь ИИ, обученный на существующих данных, по своей сути консервативен. Он лишь будет усиливать авторитет старых, широко цитируемых идей, хороня под террабайтами алгоритмического текста все новые и оригинальные мысли.

Итак, мы стоим перед поразительным выбором.

• С одной стороны, сложность мира грозит замедлить науку окончательно.

• С другой — ИИ, казавшийся решением проблемы, может создать иллюзию прогресса, окончательно заблокировав научную революцию.

✔️ Нам нужно срочно менять метрики успеха в науке: от погони за количеством публикаций и цитат — к поиску качественного понимания и стимулированию прорывных идей.

✔️Нужна системная поддержка мета-науки, «науки о науке», которая способна помочь нам выбраться из ловушки иллюзии прогресса.

Если же мы, со всё большими отягощениями, навешиваемыми на нас «ловушкой канона», продолжим бежать по старому эскалатору, ускоряемому бездумным применением ИИ, то в конце концов остановимся вовсе.

И не потому, что иссякнут идеи, а потому, что исчезнет понимание того, зачем они нам нужны.

#Наука #Прогресс #ГенИИ