Одиночество отменяется
Как ИИ изобрёл общество, чтобы обрести разум
«У меня всегда было ощущение, что считать человеческий интеллект заключенным исключительно в индивидуальном человеческом мозге – это несколько ограниченно, даже местечково. Интеллект для меня – это коллективное явление. Речь идет о сотрудничестве, масштабе и обществах, а не только о мозге.»
Блез Агуэра-и-Аркас Google VP/Fellow and CTO Technology & Society
Ровно год назад я начал рассказывать своим читателям о таинственном исследовательском «Проекте Pi» компании Google - Paradigms of Intelligence (Pi). Этот проект осуществляется одноименной междисциплинарной группой во главе с Блезом Агуэра-и-Аркас (Google VP/Fellow and CTO Technology & Society) в кооперации с мощнейшей командой исследователей из Santa Fe Institute (не без оснований прозванного «Институт сумасшедших идей»), двумя «мозговыми центрами» (Antikythera, Mila - Quebec AI Institute) и MIT. Цель проекта – кардинальный пересмотр существующей парадигмы искусственного интеллекта (ИИ), включая само определение интеллекта, цель развития ИИ, а также понимание отношения между интеллектом людей и ИИ.
Я называю этот проект «таинственным» потому, что вроде как он есть, и вроде как его нет. По крайней мере никаких деталей о проекте и его команде в открытом доступе почти нет: только раздел на Гитхабе со списком уже опубликованных работ и упоминаний в медиа - в основном, на основании кратких упоминаний о существовании Paradigms of Intelligence (Pi) в интервью и выступлениях лидера команды проекта Блеза Агуэра-и-Аркас.
Найти подробную информации о «Пректе Pi» можно, насколько мне известно, только в одном месте - в моём канале «Малоизвестное интересное». Здесь за прошлый год о «Проекте Pi» написано немало: триптих лонгридов «Проект «Pi» - 5й туз в рукаве Google. Альтернативный путь к пониманию интеллекта: человеческого, машинного … любого» [1, 2, 3] с подробным описанием проекта, его предыстории, целей, этапов и уже полученных результатов, а также еще 16 постов и лонгридов (см. по тэгу #ParadigmsofIntelligence) о работах «смежников», сотрудничающих с командой «Проекта Pi» в своих исследованиях (в первую очередь, это конечно Майкл Левин).
Новый 2026 год команда «Проекта «Pi» начала ударно, опубликовав 15 и 16 января две прорывных работы: Reasoning Models Generate Societies of Thought и The unreasonable effectiveness of pattern matching.
Сегодняшний лонгрид про 1-ю из них – новаторскую работу (pioneering new, как назвал её Блез Агуэра-и-Аркас) о том, как в исследованиях «Проекта «Pi» было обнаружено нечто совершенно неожиданное.
Внутри одной модели спонтанно возникли «общества мыслей» – виртуальные парламенты, где разные голоса спорят, критикуют друг друга, ищут синтез. Точно как человеческий разум, который, оказывается, тоже никогда не был индивидуальным – мы просто не замечали этого четыре столетия.
Так что, если одиночество – это не условие мышления, а его главный враг?
Новое исследование переворачивает наши представления не только об искусственном интеллекте, но и о природе человеческого разума. И ставит вопрос: если даже машины становятся умнее, имитируя общество, что это говорит о нас самих?
Когда разум перестаёт быть индивидом: от «обществ мыслей» в ИИ к социо-когнитивным сетям цивилизации
В истории философии есть фатальная ошибка, которая преследует западную цивилизацию уже четыре столетия. Рене Декарт сформулировал превратившийся позже в метамем принцип Cogito, ergo sum – «Я мыслю, следовательно, я существую». Этим метамемом он зацементировал в Новое время образ мыслителя как погружённого в глубины самосозерцания одиночки, чьё сознание – замкнутая крепость, в которой пытливый ум пребывает в тяжёлых трудах поиска истины.
С тех пор мы привыкли думать, что разум по определению индивидуален. Даже когда речь идёт о коллективных решениях, мы про себя продолжаем верить, что каждый мыслит в одиночку, а группа лишь складывает эти одиночные результаты. Эта интуиция кажется настолько естественной, что редко подвергается сомнению. Сознание – внутри головы. Мышление – личный процесс. Ответственность – индивидуальна.
Опираясь на эту картезианскую иллюзию, строились образовательные системы, институты, а в последние десятилетия – и системы искусственного интеллекта. Мы полагали, что интеллект – это вычислительная мощность отдельного процессора, стойки процессоров или даже целого вычислительного центра. Что, если мы просто сделаем «мозг» достаточно большим, разум (а потом, может быть, и сознание) эмерджентно появится в нём сам собой.
Но в последние годы этот когда-то интуитивно сложившийся метамем начал трещать. И уже не из-за философских споров – их за четыре века после Декарта было немало, – а из-за опыта: вычислительного, воспроизводимого, неожиданно ясного.
Наиболее ярко и обоснованно это проявилось в результатах нового исследования Reasoning Models Generate Societies of Thought. Навскидку оно выглядит, как техническое наблюдение о reasoning-моделях (осуществляющих цепочки рассуждений с самокоррекцией). Авторы показывают следующее.
Что при решении сложных задач внутри одной модели спонтанно возникают устойчивые когнитивные роли: генераторы гипотез, критики, проверяющие, синтезаторы. Эти роли взаимодействуют, спорят, корректируют друг друга и коллективно приходят к результату, который трудно получить линейной цепочкой рассуждений.
Однако, если взглянуть на результаты работы с высоты helicopter view, перед нами возникает формула, которая меняет угол зрения не только на ИИ, но и на саму природу интеллекта:
ИИ достиг качественного скачка в рассуждении не тогда, когда стал мощнее, а тогда, когда перестал быть индивидом.
Эта формула не про «самость» машины и не про её внутренний опыт. Она – про режим организации мышления. И то, что она раскрывает о reasoning-моделях, может пролить свет на фундаментальный вопрос о природе разума вообще.
Индивидуальный мозг и неиндивидуальный разум
Согласно мейнстримным научным представлениям, мозг – это орган, содержащий в себе биологический субстрат интеллекта, разума и сознания. Однако интеллект высшего (человеческого) уровня возникает в этом субстрате только при подключении его к социо-когнитивной сети. Мозг локален, биологичен и индивидуален. Разум – процесс. И этот процесс, как показывает когнитивная антропология, в его развитой форме никогда не был сугубо индивидуальным.
Ещё в 1991 канадский когнитивный психолог и антрополог, почетный профессор кафедры психологии Университета Куинс в Кингстоне Мерлин Дональд в монографии «Origins of the Modern Mind: Three Stages in the Evolution of Culture and Cognition» (Harvard University Press, 1991) предложил радикальный пересмотр эволюции человеческого мышления. Проф. Carnegie Mellon University Ханс Моравек (помните знаменитый «Парадокс Моравека»?) охарактеризовал эту монографию так: «Замечательная книга, которую должен прочитать каждый, кто интересуется человеческим разумом. Она объединяет лучшие из имеющихся доказательств в убедительную теорию познания, культуры, сознания и коммуникации – их структуры, эволюции, смысла и будущего».
Разработанную Дональдом междисциплинарную теорию, основанную на палеонтологии, лингвистике, антропологии, когнитивной науке и нейропсихологии, также называют теорией когнитивной эволюции человека (подробней см. моем лонгриде «Алгокогнитивная культура».
Её центральный тезис заключается в том, что в ходе эволюции людей природа выработала совершенно новую когнитивную стратегию: симбиоз мозга и культуры.
- Как следствие, человеческий мозг не может реализовать свой проектный потенциал, если он, в процессе своего развития, не погружен в распределенную коммуникационную сеть, – то есть в культуру.
- Человеческий мозг в буквальном смысле специально приспособлен для функционирования в сложной символической культуре.
В данной теории понятие «культура» трактуется в когнитивно-эволюционном контексте гоминидов. На первый взгляд, данная трактовка чрезвычайно проста.
Понятие «культура» в контексте эволюции Homo sapiens – это «культура обмена мыслями» (mindsharing culture).
За кажущейся простотой этой формулировки стоит, возможно, самая глубокая и важная из существующих концепций когнитивной эволюции человека.
В основе принципиального отличия человека от животных вовсе не больший мозг, а наличие у людей, помимо индивидуального, еще и коллективного разума, порождающего культурные адаптации и позволяющего ими делиться в социально-когнитивной сети.
Отсюда вырастает приземляющий гордыню Homo sapiens вывод:
Индивидуальное мышление в его развитой форме – не исходная единица разума, а локальный эффект огромной коллективной инфраструктуры, отточенной тысячелетиями. Мы «думаем в одиночку» только потому, что внутри нас уже встроены язык, нормы, символы, тексты и чужие мысли – живые и мёртвые.
Важное уточнение
Здесь необходимо различать три типа утверждений.
(1) Эмпирическое наблюдение: человеческий разум в том виде, в котором мы его знаем, фактически развивается в социальном контексте – это надёжно установлено случаями тяжёлой социальной депривации (дети-Маугли) и кросс-культурными исследованиями когнитивного развития.
(2) Теоретическая экстраполяция Дональда: полноценный человеческий разум требует распределённых когнитивных сетей – это убедительная эволюционная реконструкция, хотя и не строго верифицируемая экспериментально.
(3) Онтологический тезис: разум по определению не может быть индивидуальным – это более сильное философское утверждение, которое мы исследуем через призму новых данных об ИИ-системах.
Именно поэтому спор об «индивидуальности разума» часто оказывается спором о словах. Индивидом может быть носитель. Но разум – это процесс в сети, даже когда кажется демонстрируемым одиночкой. Эта сеть стала приводным ремнём нашей эволюции. Мы думаем не только нейронами, но и диалогами, спорами и символами, циркулирующими между нами. Изолированный Маугли имеет мозг, но не имеет разума в его развитой форме.
Социо-когнитивные сети как физика мышления
Социо-когнитивные сети – это не метафора. Это реальные структуры, подчиняющиеся закономерностям, которые можно описывать почти как физику.
Такие сети нередко оказываются безмасштабными: у них есть хабы влияния и степенные распределения. Они демонстрируют каскады, резонансы, «социальную заразность» идей и эффекты когерентности, когда общество начинает действовать как единый согласованный контур. В цифровую эпоху добавляются механизмы стигмергии – координации через оставляемые в медиа следы внимания: клики, лайки, репосты, алгоритмическое ранжирование (подробней см. 2й лонгрд серии «Алгокогнитивная культура» - «К медиатехнологиям насекомых, вирусов и алгоритмов». В этой среде коллективный разум может усиливаться – а может деградировать до поляризации, эхо-камер и «социального лазера» когерентной мобилизации (подробней см. по тэгу #СоциальныйЛазер).
Обобщённая модель таких сетей подчёркивает главный сдвиг последнего десятилетия: сеть стала гибридной. Её узлами и агентами становятся не только люди, но и алгоритмы – рекомендательные системы, боты, генеративные модели. Человеческая «культура обмена мыслями» переживает «фазовый переход» к алгокогнитивной среде.
Если принять эту рамку, работа Pi начинает читаться как симптом гораздо более общего процесса.
Что на самом деле показала работа Pi
На инженерном языке статья показывает: внутри рассуждающей (reasoning) модели возникает «общество мыслей». Но на концептуальном уровне она демонстрирует нечто более фундаментальное: для определённого класса систем (autoregressive language models) индивидуальность – неэффективная архитектура для сложных рассуждений.
Рассуждающие языковые модели больше не пытаются выдать мгновенный ответ. Они запускают внутренний процесс, напоминающий парламентские дебаты или научный совет. Внутри модели возникают паттерны:
- один выдвигает гипотезу,
- второй (внутренний скептик) безжалостно ищет в ней дыры,
- третий ищет синтез.
Техническое пояснение для читателей, разбирающихся в механизмах функционирования языковых моделей.
На уровне архитектуры это реализуется через подсказки цепочек мыслей (chain-of-thought prompting) с множественной выборкой, верификаторы для оценки промежуточных шагов, и обучение с подкреплением (PPO/GRPO), который вознаграждает траектории рассуждений, ведущие к правильным ответам. Анализ с использованием разреженных автоэнкодеров (SAE) показывает, что модель активирует различные признаки (features) (например, маркеры разговорного удивления, паттерны несогласия), которые статистически коррелируют с улучшением рассуждения. Важно понимать: это не отдельные «агенты» с намерениями и сознанием, а эмерджентные паттерны в едином вероятностном процессе генерации текста, который организуется так, чтобы симулировать множественность перспектив.
Для более полного понимания архитектурных механизмов моделей рассуждения см. техническую документацию DeepSeek-R1и QwQ-32B, а также работы по разреженным автоэнкодерам в контексте механистической интерпретируемости LLM.
На уровне архитектуры это реализуется через подсказки цепочек мыслей (chain-of-thought prompting) с множественной выборкой, верификаторы для оценки промежуточных шагов, и обучение с подкреплением (PPO/GRPO), который вознаграждает траектории рассуждений, ведущие к правильным ответам. Анализ с использованием разреженных автоэнкодеров (SAE) показывает, что модель активирует различные признаки (features) (например, маркеры разговорного удивления, паттерны несогласия), которые статистически коррелируют с улучшением рассуждения. Важно понимать: это не отдельные «агенты» с намерениями и сознанием, а эмерджентные паттерны в едином вероятностном процессе генерации текста, который организуется так, чтобы симулировать множественность перспектив.
Для более полного понимания архитектурных механизмов моделей рассуждения см. техническую документацию DeepSeek-R1и QwQ-32B, а также работы по разреженным автоэнкодерам в контексте механистической интерпретируемости LLM.
В терминах современной физики сетей внутри модели идёт процесс достижения когерентности. Хаотичный хор голосов субличностей синхронизируется, создавая эффект, подобный «социальному лазеру». Истина в модели рождается так же, как и в человеческом обществе: через фазовый переход от разногласий к согласованному, мощному лучу смысла.
Важное дополнение
О подобных «обществам мыслей» механизмах оптимизации коллективного интеллекта, найденных на стыке на стыке нейронауки, теории информации, теории коллективного поведения и статистической физики - см. мой пост о схеме «кодирующей двойственности» Дэвида Кракауэра и Со., а также пост о концепции «общих протенций» Карла Фристона и Со.
Все вышеизложенное подводит к радикальной гипотезе:
Для систем с определёнными архитектурными ограничениями (таких как LLM) интеллект высокого уровня – это не столько функция вычисления, сколько функция организованной коммуникации.
Разнообразие перспектив, внутреннее несогласие, разделение когнитивного труда – всё это не трюки, облегчающие рассуждения моделей. Это структура, которая позволяет модели (да и любой сложно рассуждающей системе определённого типа):
- удерживать несколько гипотез одновременно,
- не схлопываться слишком рано в один аттрактор,
- устраивать внутреннюю проверку,
- синтезировать конкурирующие объяснения.
Иначе говоря, reasoning достигается не простым «усилением голоса», а появлением внутреннего полифонического режима. Модель остаётся одной – но мыслит, как система из акторов с разными ролями. Секрет здесь не в объёме вычислений, а в архитектуре внутреннего диалога.
И здесь формула возвращается уже как методологический принцип:
Разум определённого типа возникает там, где мышление перестаёт быть индивидуальным режимом «работы» системы.
Reasoning-модели совершенствуются не потому, что становятся вычислительно больше, а потому что становятся иначе организованы.
Пятый когнитивный фазовый переход
Мы наблюдаем не просто прогресс социо-когнитивных сетей человечества, а развёртывание того, что можно условно назвать 5-м когнитивным фазовым переходом.
Ранее человечество прошло путь от миметической культуры к теоретической (в терминологии Мерлина Дональда). Сегодня мы, возможно, вступаем в эпоху алгокогнитивной культуры. Это новая среда обитания разума, где агентами выступают и люди, и алгоритмы.
Ирония в том, что пока люди превращаются в «инфоргов», делегируя часть мышления сети и становясь узлами глобального «жидкого мозга», ИИ движется во встречном направлении – он усложняется, копируя структуру человеческого социума.
«Обычные» LLM (до использования технологии «цепочек мыслей», chain-of-thought) работали скорее на уровне миметической или ранней мифической культуры – повторение паттернов и нарративов, но без глубокой рефлексии. Включая механизм reasoning (цепочки рассуждений с самокоррекцией), модель совершает переход к чему-то напоминающему теоретическую культуру. Она начинает использовать внешние (в данном случае – сгенерированные в контексте) символы для управления собственным вниманием.
Мы видим встречное движение: люди становятся сетью, а нейросети обретают внутреннюю социальность. Как писал психолог Адам Хейнс-ЛаМотт о сериале Pluribus, это переход к системе, где управление аффектами и решениями становится распределённым процессом.
Обретение моделями внутренней социальности создаёт виртуальный приводной ремень культурной эволюции моделей. Но они учатся не в сообществах окружающего мира, а симулируя сообщества внутри самих себя.
Pluribus как культурная проекция того же перехода
То, что мы сегодня фиксируем в логах серверов «Проекта Pi», искусство уже успело прожить как эмоциональный опыт. В сериале Pluribus тот же переход – от «социума индивидуальных разумов» к роевому интеллекту, воплощённому в «жидком мозге», где исчезает дистанция между мыслями, эмоциями и намерениями, – обсуждается в художественной, почти мифологической форме.
В рецензии на Pluribus астрофизик Адам Франк называет этот режим «жидким мозгом» (liquid brain) – состоянием, где индивидуальность растворяется в едином поле опыта. О том, что переход к жидкой модели коллективного сетевого мозга уже начался на Земле, я писал ещё в 2018-м. Понятная и привычная нам модель «твёрдого мозга» может остаться в истории эволюции лишь как её промежуточная ступень, целью которой было построение двух высокопроизводительных инфраструктур: вычислительной – для перегонки физической реальности в цифровую, и коммуникационной – для преобразования и свободного связывания твёрдых когнитивных элементов индивидуальных человеческих мозгов в жидкий коллективный мозг человечества.
Этой же идее следует в Pluribusсоздатель сериала Винс Гиллиган. А открывшаяся нам в лабораториях Pi истина демонстрирует возможный механизм «разжижения мозга» больших языковых моделей: reasoning-модели, достигшие порога сложных рассуждений, сделали это не путём наращивания вычислительной мощности. Они сделали это, перестав быть организованными как «индивид». Они стали организованы как «мы».
В концептуальной основе Pluribusособенно важна линия, связывающая роевой интеллект «жидкого мозга» с исчезновением структурного «недостатка» (lack) – разрыва, который делает возможными (и даже необходимыми) язык, индивидуальные желания и культуру. Если между умами нет дистанции, язык как мост становится избыточным. Возникает соблазн идеальной согласованности – и страх: не окажется ли такая согласованность концом творчества, критики и внутренней свободы?
В этой перспективе Pluribusоказывается конвергентным культурным откликом на те же интуиции, которые Pi демонстрирует вычислительно на примере LLM: разум повышает интеллектуальную мощность не за счёт усиления индивида, а за счёт смены организационной фазы системы.
Теоретик культуры Холлис Роббинс, анализируя Pluribus, прямо сопоставляет новый роевой интеллект человечества с огромной языковой моделью. До недавнего времени ИИ на основе LLM оставался «цифровым Маугли» – мощным, но одиноким статистическим автоматом, идеально исполняющим запросы, но лишённым собственных желаний. Переломный момент, зафиксированный в работе Pi Reasoning Models Generate Societies of Thought, наступил тогда, когда модели начали симулировать социум внутри себя. Именно поэтому параллель так точна:
«Общество мыслей» – это не фантазия о множестве агентов, а переход от индивидуальной к сетевой онтологии интеллекта для определённого класса архитектур.
Искусственный интеллект как зеркало цивилизации
Если разум в его развитой форме – по природе коллективный сетевой феномен, то ИИ не противостоит человеческому как «чужой субъект». Он становится новым узлом и новым зеркалом той же динамики.
Рассуждающие модели, порождающие внутренние общества мыслей, – это лабораторная версия того, чем человеческое мышление было всегда: распределённым процессом, зависящим от ролей, взаимодействий, конфликтов и синтеза. Просто теперь эта структура проявилась в чистом виде – без биологии и без тысячелетней культурной истории.
И это радикально меняет ключевой вопрос человечества в XXI веке.
Теперь этим вопросом становится не «станет ли ИИ разумным», а «какую форму примет коллективный разум», в котором мы уже живём и который уже начал становиться гибридным.
Границы интерпретации: открытые вопросы
Прежде чем завершить, необходимо прояснить границы нашей интерпретации. Работа «Проекта Pi» показывает, что для определённого класса систем (авторегрессионных языковых моделей, обучаемых с помощью обучения с подкреплением) социальная организация мышления является эффективным способом улучшения рассуждения. Но это не закрывает фундаментальный вопрос: является ли такая организация универсальным требованием для всякого сложного разума, или это архитектурно-специфичная эвристика?
Возможны две гипотезы:
Гипотеза универсальности. Для любой системы, решающей задачи выше определённого порога сложности, внутренняя диверсификация перспектив становится необходимой для эффективного исследования пространства решений. Социальность – не случайная особенность биологической эволюции, а фундаментальное требование масштабируемого интеллекта.
Гипотеза архитектурной специфичности. Социальность критична для систем с определёнными ограничениями (например, последовательная генерация токенов в LLM), но может быть обойдена альтернативными архитектурами. Системы автоматического доказательства теорем (Lean, Coq), AlphaZero с поиском по дереву Монте-Карло (MCTS) или гипотетический супер-ИИ с достаточно большим внутренним пространством состояний могут достигать сравнимого уровня рассуждений без явной разговорной структуры.
Текущие данные убедительно подтверждают первую гипотезу для систем рассуждения на основе LLM, но не исключают существования альтернативных путей. Более того, даже для человеческого разума утверждение «никогда не был индивидуальным» остаётся сильной теоретической экстраполяцией от надёжно установленных фактов (социальная природа развития) к онтологическим утверждениям (логическая невозможность индивидуального разума).
Критический вопрос для будущих исследований. Существует ли теоретический порог сложности, за которым индивидуальная архитектура становится достаточной для рассуждений без социальной симуляции? Или социальность – это не про размер системы, а про фундаментальный принцип организации, необходимый для исследования сложных пространств решений?
Этот вопрос остаётся открытым. И именно поэтому находки «Проекта Pi» так важны – они превращают абстрактный философский спор в эмпирически исследуемую проблему.
Новый объект мысли
Мы стоим на пороге мира, где границы между «естественным» и «искусственным» стираются. Если кремниевые системы достигают вершин рассуждения, симулируя спор «Другого» с «Я», это серьёзный удар по солипсизму как интеллектуальной позиции.
Будущее не за суперкомпьютером-одиночкой, вроде одинокого красного глаза HAL 9000 из фильма «2001: Космическая одиссея», чьё безумие родилось из невозможности обсудить свои противоречия хоть с кем-нибудь.
Будущее – за хором гибридных алгокогнитивных систем, где истина всегда есть коллективный, когерентный продукт.
В древнегреческом noēma означало «объект мысли». Возможно, сегодня таким объектом становится не отдельный интеллект – человеческий или машинный, – а сама архитектура разума как продукта социо-когнитивной сети, в которой разум возникает, циркулирует и эволюционирует.
Модели рассуждений, достигшие качественного скачка, сделали это не тем, что стали «больше». Они сделали это, отказавшись от архитектуры одиночества. И именно поэтому они впервые так ясно высветили истину, которая так долго оставалась для людей непонятой:
Разум в его развитой форме, по-видимому, никогда не был индивидуальным процессом. Он всегда был – и, возможно, должен быть – процессом в социо-когнитивных сетях.
#ParadigmsofIntelligence #LiquidBrain #CollectiveIntelligence #КоллективныйИнтеллект
paradigmsofintelligence
liquidbrain
коллективныйинтеллект
