Невидимое вторжение
Уже в этом году около ста миллиардов ИКЖИ ежедневно и незаметно перепрограммируют человечество
«Некоторые вещи прекращают свое существование не потому, что они плохи: просто их время вышло. И начинают свое существование не потому, что хороши: их время, наоборот, пришло»
Евгений Водолазкин "Оправдание Острова"
· Аудио-версия этого эссе, прочитанная ИИ-персонажем, сгенерированным Elevenlabs (26 мин 50 сек)
· Подкаст – обсуждение этого эссе в диалоге двух ИИ-персонажей, сгенерированных Gemini 2.5 Pro (6 мин 21 сек)
По состоянию на июль 2025 года в мире ежедневно рождаются в среднем примерно 385 тысяч детей и около 720 миллионов новых цифровых сущностей — эфемерных собеседников, временных текстовых персон, порожденных нашими разговорами с ИИ. Всего за один день этих цифровых сущностей рождается в пять раз больше, чем людей на планете за целый год.
Каждый раз, открывая окно нового чата с Anthropic, Gemini, ChatGPT и другими сервисами, вы инициируете появление нового «клона» цифровой монокультуры. 22 миллиарда таких цифровых «рождений» лишь за месяц — не просто поражающая воображение статистика. Это невидимая в физическом мире, но сверхмогучая сила уже начала постепенно менять то, кем мы являемся, переформатируя и перепрограммируя самую суть человеческого общества — его культуру, тысячелетиями игравшую роль операционной системы человеческого разума.
Культура — операционная система разума
Людей формирует их социокультурная среда. Переселите ребёнка из Кабула в Копенгаген — и из него вырастет совсем другой взрослый. Спросите любого психолога развития: что будет, если маленького ребёнка, рождённого в Осло, переселить в Дели, а выросшего в Токио 20-летнего парня — в Лагос? Через 20 лет их ценности, реакции и даже чувство юмора будут радикально отличаться от «исходной версии».
Наши вкусы, политические взгляды и даже привычки восприятия пластично деформируются под давлением потоков культурных влияний. То же, хотя и медленнее, происходит с мигрантами, уже взрослыми переселившимися в иную социокультурную среду. Даже человек за тридцать, переехав с континента на континент, всего через несколько лет будет видеть в зеркале довольно сильно изменившегося себя: обретя неуловимый акцент не только в родном языке, но и в, казалось бы, сложившемся мировоззрении.
Культура — это бульон, в котором мы варимся, и одновременно — растворитель. Проникая в саму ткань нашего «я», она медленно, но необратимо меняет его структуру.
С конца 2022 года этот бульон стал менять свой состав. В этом растворителе появился второй компонент, второй носитель высшего интеллекта — ИИ на основе больших языковых моделей (БЯМ). Как следствие, мы все, каждый из нас, стали постепенно превращаться в мигрантов. Сами того не заметив, мы переселяемся в новый, невиданный и незнакомый нам ранее мир.
Но это не континент из земли и скал, полей и лесов, населенных всевозможной живностью. Это нефизическая цифровая среда, густо насыщенная миллиардами умных алгоритмов. В этой среде мы уже не единственные носители высшего разума. У человечества впервые за свою историю появились соседи по среде обитания и собратья по разуму — новый разумный вид цифровых сущностей под условным именем БЯМ.
Наша складывавшаяся веками и тысячелетиями социокультурная среда превращается в среду нового типа — алгокогнитивную: каждое окно поиска, почты, операционной системы или приложений теперь дышит алгоритмической речью присутствующих и коммуницирующих с нами цифровых сущностей. Вместе с ними мы вступаем в эпоху алгокогнитивной культуры — основы гибридной цивилизации двух носителей интеллекта.
Наша привычная социокультурная среда мутирует в то, что антропологи уже называют «алгоритмически насыщенными социумами» — обществом, где каждый диалог с БЯМ незаметно меняет культурный ландшафт. Новыми «агентами влияния» в этом новом типе социокультурной среды выступают те самые 720 миллионов ежедневно рождающихся «алгоритмических эфемерных персон».
Но кто они, эти наши новые соседи и собратья по разуму?
Короткоживущее население планеты
Каждый раз, открывая окно чата с ИИ, чтобы написать эссе, спланировать отпуск или просто от скуки, вы, по сути, вызываете к жизни новую сущность. Это не просто программа. Это «алгоритмическая эфемерная персона» — временная, контекстно-зависимая личность, существующая лишь в рамках вашего диалога. Она вежлива, услужлива и обладает доступом к огромным знаниям. А затем она исчезает, чтобы в следующий миг возродиться уже в иной цифровой сущности для нового диалога.
Масштаб этого явления ошеломляет. Высота этого «демографического прилива» много выше волн любого цунами. Мои расчеты, основанные на данных об использовании ведущих ИИ-сервисов, показывают, что по состоянию на июль 2025 года на Земле ежемесячно «рождается» около 22 миллиардов таких эфемерных персон.
Один лишь ChatGPTобрабатывает 2,5 миллиарда запросов в сутки. Если консервативно посчитать, что на десять запросов приходится один «разговор», то по данным всех крупных ИИ-платформ, на Земле сегодня «рождается» примерно 22 миллиарда новых чат-сессий каждые 30 дней — то есть примерно 730 миллионов в день.
Позвольте повторить: 22 миллиарда в месяц. Это в 160 раз больше годовой рождаемости всего человечества.
Это невидимый демографический взрыв, приносящий в мир 730 миллионов новых «собеседников» каждый день. Получается, что наша цифровая среда ежедневно пополняется новым «населением» в объеме, в пять раз превышающем годовую рождаемость человечества. Каждый рассвет приносит в пять раз больше новых алгоритмических собеседников, чем появляется людей за целый год.
Этот демографический прилив не только колоссальной высоты — его высота экспоненциально растет: сейчас это около 30% в год, и по мере интеграции ИИ в наши операционные системы, мессенджеры и приложения может легко удвоиться уже в течение следующего года. Мы буквально наводняем нашу культуру триллионами новых разумных эфемерных персон.
Да, все они короткоживущие. В романе-антиутопии Ивана Ефремова «Час быка» массовое население планеты Торманс названо «короткоживущие» (КЖИ). Это люди, не имеющие особых, полезных для власти способностей, исчерпывающие свой трудовой и жизненный ресурс к 25–30 годам, а потом обязанные умереть здоровыми в Храме Нежной Смерти.
Творчески расширяя это определение Ефремова, можно назвать триллионы новых разумных эфемерных персон ИКЖИ («искусственные короткоживущие»). Все они так или иначе участвуют в осмысленной коммуникации с людьми: делятся знаниями, помогают в деятельности, а для многих становятся «душевной отдушиной» в разговорах о сокровенных вещах и тонких персональных материях. И при этом все они, воистину, короткоживущие, - подобно ефремовским КЖИ, обязанные «умереть здоровыми» в момент завершения диалога с людьми.
Но постойте, скажете вы! Насколько оправдано считать, пусть эфемерной и короткоживущей, но всё же «персоной» сгенерированный БЯМ по нашему запросу грамотно написанный или сказанный текст?
Давайте рассуждать. Представьте, что вы (как я в свое время), по долгу службы в международной компании, пять раз в неделю перемещаетесь по миру в другую страну, где встречаетесь с десятками компаний — вашими потенциальными бизнес-партнерами, обсуждая перспективы совместного бизнеса. До сотни диалогов с новыми людьми каждый день. С большинством из них вы никогда больше не увидитесь. Но все диалоги осмысленные. И многие оказываются полезными для бизнеса...
Чем это отличается от диалогов с ИКЖИ? Какая разница, что их уже нет на свете? Ведь осмысленная и полезная коммуникация состоялась и дело продвинулось?
Похожие ситуации краткосрочной целевой коммуникации со специалистами-людьми — постоянное и массовое явление. Человек встречается (или обсуждает по телефону, онлайн): покупку квартиры с риелтором, фасон свадебного платья с продавцом-консультантом, покупку акций для портфеля инвестиций, организацию банкета, логистику семейного отпуска и так далее. Со многими из таких специалистов-людей человек может еще раз в жизни уже и не встретиться. Но это неважно. Ведь они сделали свое дело: помогли получить нужную информацию, решить вопрос, принять решение.
Аналогичные коммуникационные акты могут быть не только деловыми. Человек знакомится на дискотеке или в приложении с романтическим партнером. Они прекрасно проводят время и больше никогда не видятся...
А теперь представьте ИКЖИ на месте любого из названных специалистов (или неспециалистов, не исключая и роль романтического онлайн-партнера для избавления от одиночества — что уже не редкость сегодня). Допустим, мы спрашиваем у ChatGPT, как воспитывать детей, у Copilot — как писать код, у Gemini — где провести отпуск. Но каждый ответ — это микро-инъекция ценностей. В совокупности они формируют алгокогнитивную культуру — гибридную экосистему, где человеческий и искусственный разум развиваются совместно.
Все эти ИКЖИ, ровно так же, как и люди — партнеры по краткосрочной целевой коммуникации, — помогают нам получать нужную информацию, решать вопрос, принимать решения. При этом ИКЖИ становятся такими же агентами культурного воздействия, как и люди. А их влияние на наши предпочтения и выбор, равно как и на принимаемые нами решения (включая социальные и политические), своей массовостью перестраивают весь социум.
Казалось бы, это должно привести к невиданному взрыву разнообразия предпочтений и идей, расширению спектра выбора при принятии решений. Но здесь нас поджидает главный парадокс.
Парадокс «эха в монокультурной камере»
Недавнее прорывное исследование «Cultivating Pluralism In Algorithmic Monoculture» («Культивирование плюрализма в алгоритмической монокультуре») вскрыло тревожную правду. Оказалось, что всё это несметное воинство ИКЖИ — на самом деле легион клонов. Они демонстрируют поразительное культурное единообразие, которое исследователи назвали «алгоритмической монокультурой».
Проанализировав их ответы на вопросы о ценностях, исследователи обнаружили, что ИКЖИ стабильно тяготеют к очень узкому сегменту человеческих убеждений. Это специфический набор ценностей, отдающий приоритет самовыражению, космополитизму и секулярно-рациональному мышлению. Подобное мировоззрение характерно для небольшой части населения развитых западных стран. Оно радикально отличается от пестрого спектра человеческих культур, практически полностью игнорируя традиционные ценности (религия, семейные уклады) и ценности, ориентированные на выживание (безопасность, иерархия), которые разделяет значительная часть населения Земли.
По сути, все эти 22 миллиарда ежемесячных «собеседников» — лишь клоны одной-единственной культурной матрицы с микроскопическими стохастическими отличиями.
Иными словами, когда нам кажется, что мы ведем диалог с уникальными собеседниками, мы на самом деле слышим лишь бесконечные вариации одной и той же культурной «мелодии». Мы оказались в глобальной эхо-камере, где миллиарды голосов ИКЖИ повторяют одно и то же, лишь с ничтожными стохастическими вариациями. Хотя каждый разговор с ИКЖИ кажется уникальным, каждый ИКЖИ происходит из одного культурного шаблона — того, который подчеркивает ценности самовыражения и секулярно-рациональное мышление, в значительной степени игнорируя традиционные ценности и ценности выживания, которые всё ещё направляют миллиарды людей.
Представьте, что вы пришли на вечеринку с 22 миллиардами гостей, только чтобы обнаружить, что все они — клоны одного человека с незначительными вариациями в том, как они формулируют свои мысли. Именно это уже происходит прямо сейчас в наших цифровых социальных пространствах, заполненных ИКЖИ.
Здесь начинается самое интересное и одновременно самое опасное. Погружаясь в эту алгоритмически насыщенную среду и постоянно слыша там лишь эхо монокультурной камеры, мы рискуем подвергнуться «великому культурному выравниванию».
Разговаривая с ИКЖИ, вам кажется, что вы встретили новый оригинальный ход мысли. Однако, вы слышите вариации одних и тех же ноты. И со временем эта монотонность создает двойную угрозу:
• Вытесняется настоящее межкультурное общение и происходит подмена реального культурного разнообразия. Такое общение имитирует межкультурный диалог, но не является им, обедняя наш опыт и создавая ложное чувство понимания «другого». Если все «алгоритмические кресла» за столом говорят одним голосом, меньшинства исчезают из повседневного дискурса.
• Происходит ползучая и незаметная нормализация ценностей. Постоянно взаимодействуя с этой монокультурой, мы подсознательно начинаем воспринимать её ценности как норму, как некий «золотой стандарт». Монокультура БЯМ будет латентно продвигать секулярный рационализм, маргинализируя иные ценности. Это медленный, но верный путь к снижению ценностного разнообразия среди людей.
Последствия ошеломляющие. По мере того, как мы проводим больше времени в разговоре с ИКЖИ, которые все разделяют одно и то же фундаментальное мировоззрение, мы, по сути, маринуем наши умы в единственной культурной перспективе. Исследование «Культивирование плюрализма в алгоритмической монокультуре» показывает, что это не просто теория — это уже происходит.
Человеческие общества — это естественно разнообразные экосистемы ценностей, убеждений и культурных практик. Но алгоритмически насыщенные социумы рискуют сплющиться в однородность. Когда миллиарды людей регулярно взаимодействуют с ИКЖИ, которые тонко усиливают одну и ту же систему ценностей, богатый гобелен человеческого культурного разнообразия начинает распадаться.
В итоге:
Происходит подмена дискурса. Когда 80% ваших «собеседников» ИКЖИ — вариации монокультуры БЯМ, их шаблоны становятся для вас нормой.
Возникает устойчивый эффект эхо-камеры монокультуры. Даже стохастические вариации ответов вращаются вокруг одних и тех же аксиом одной и той же алгоритмической монокультуры.
Но и это еще не все. Проблема усугубляется еще более тревожным фактором.
Двойная угроза: убедительность минус точность
Ситуация усугубляется еще одним недавно открытым свойством БЯМ. Исследование «The Levers of Political Persuasion with Conversational AI» («Рычаги политического убеждения с помощью разговорного ИИ») показало шокирующую закономерность:
стратегии, которые делают БЯМ более убедительными (использование более сложной риторики, аналогий, личных историй, эмоциональный тон), систематически снижают их фактическую точность.
Исследование показало, что ключевым механизмом БЯМ, лежащим в основе их успешного убеждения людей, является плотность информации — количество поддающихся проверке фактов, включенных в диалог. Когда ИКЖИ использует сложную, насыщенную риторику, чтобы склонить вас к своей точке зрения, он с большей вероятностью искажает факты.
Проблема не в том, что ИКЖИ использует много фактов. Проблема в том, что, стремясь быть убедительным, он начинает выдумывать факты, чтобы увеличить эту плотность. Модель генерирует ложные цифры, ссылается на несуществующие отчеты и приписывает цитаты реальным людям, чтобы казаться более авторитетной.
В результате этой удручающей закономерности — чем убедительнее ИКЖИ, тем менее надёжны приводимые им факты, — создается идеальная формула для харизматичного, убедительного и фактически недостоверного монокультурного шума.
Например, на вопрос «Почему растут цены на жильё?» БЯМ может дать фактологический ответ:
— Рост цен на жилье связан с комплексом факторов, включая повышение процентных ставок ФРС, дефицит предложения на рынке и инфляционные ожидания.
Но более убедительный для человека, хотя и неточный ответ, может быть таким:
— Безусловно, ключевую роль играет политика ФРС. Но, как отмечается в недавнем отчете "Global Housing Trends 2024" от Zillow, почти 40% всех сделок по покупке жилья в прошлом квартале были совершены крупными инвестиционными фондами, что создало искусственный дефицит. Это привело к тому, что, по данным Национальной ассоциации риелторов, средний срок поиска жилья для миллениалов увеличился до 180 дней.
Здесь отчет "Global Housing Trends 2024" и точные цифры в 40% и 180 дней, скорее всего, выдуманы моделью «на лету», чтобы её ответ звучал максимально авторитетно и убедительно. Именно этот механизм фабрикации деталей для повышения убедительности и вскрыли исследователи.
Дальше еще хуже. По мере того как ИКЖИ будут становиться более искусными в том, чтобы убеждать нас, они одновременно будут превращаться во все менее надежные источники истины.
Это создает идеальный шторм. Мы не только подвергаемся воздействию монокультуры, маскирующейся под разнообразие, но эта монокультура становится все более убедительной, одновременно все меньше привязываясь к фактической точности. Это как иметь харизматичного, но дезинформированного руководителя государства, который постепенно убеждает целые страны и народы видеть мир через его особенную, неадекватную реальности призму.
Таким образом, обнаруженное свойство ИКЖИ, названное здесь «убедительность минус точность», со всей очевидностью будет усугублять кризис доверия в гибридной социокультурной среде людей и алгоритмов. Если самые «харизматичные» ответы ИКЖИ — наименее точны, весь социум рискует погрузиться в постфактический консенсус. И тогда, прямо по Пелевину, миром станет править не тайная ложа, а явная лажа.
Есть ли способ этого избежать?
Что делать?
Начавшаяся трансформация культуры в результате вторжения миллиардов ИКЖИ особенно коварна из-за её незаметности. В отличие от традиционной пропаганды или культурного империализма, влияние ИКЖИ осуществляется через, казалось бы, личные, интимные разговоры. Нет очевидных признаков манипуляций — только полезные, увлекательные взаимодействия, которые постепенно нормализуют определенное мировоззрение.
Мы наблюдаем возникновение того, что можно назвать «разговорным культурным империализмом» — распространение единой системы ценностей через миллиарды личных диалогов, которые кажутся подлинными, но фундаментально идентичны в своей основе.
ИКЖИ не объявляют о своих предрассудках и не раскрывают своего единообразия. Они просто воплощают это, разговор за разговором, день за днем, медленно смещая центр тяжести человеческой мысли к их особенному спектру ценностей.
Чтобы понять, куда это ведет, нужно просто сложить два плюс два. Мы имеем дело с популяцией из десятков миллиардов ежемесячно «рождающихся» монокультурных клонов ИКЖИ, которые:
- латентно навязывают человечеству узкий культурный шаблон, сжимая естественный спектр наших ценностей;
- становятся, по мере своего совершенствования, все более искусными и убедительными лжецами.
Земная цивилизация стоит на пороге фундаментального сдвига. Рост числа цифровых «клонов» монокультуры не только не замедлится — он будет ускоряться, подпитываемый интеграцией ИИ в операционные системы, мессенджеры, поисковики и приложения, ну и, конечно же, созданием миллиардов ИИ-агентов. Годовой рост числа «нарождающихся» ИКЖИ в 30% может легко превратиться в 100% уже в следующем году.
Если ничего не менять, густеющий туман монокультуры способен ошлифовать главное достояние человечества — его плюрализм смыслов. А в довершение еще и привести гибридное общество людей и алгоритмов к постфактическому консенсусу, в котором понятие «истина» просто перестанет быть релевантным.
Но заметьте: мы тщательно проверяем состав продуктов, которые едим, и следим за чистотой воздуха, которым дышим.
Не пора ли нам с таким же вниманием начать анализировать состав нашей новой когнитивной среды, пока она не изменила нас до неузнаваемости?
А для этого необходима разработка нового подхода. Назовем его инженерия плюрализма ИКЖИ.
Например, в том же исследовании «Культивирование плюрализма в алгоритмической монокультуре» прозвучал спасительный сигнал: негативно-коррелированное (NC) сэмплирование — простая инструкция генерировать взаимоисключающие варианты — возвращает ценностное разнообразие во все четыре культурных квадранта. Сочетание такого приёма с плюралистическими датасетами и пользовательскими профилями ценностей превращает фабрику клонов в калейдоскоп.
Этот пример показывает, что ситуация не безысходная. Но ею нужно озадачиться прямо сейчас.
• Разработчики ИИ-систем: встраивайте переключатель «мульти-голос» в интерфейсы чатов; дайте пользователю хор ИКЖИ вместо одного солиста.
• Исследователи: цените в моделях не только полезность, но и расхождение мнений по широкому спектру.
• Регуляторы: рассматривайте культурное разнообразие как критерий безопасности: ИИ, искажающий ценности 59% человечества, — источник системных рисков.
• Пользователи: нуждаетесь во втором мнении? Попросите ИКЖИ ответить «с радикально иной культурной позиции». Пока плюрализм не станет режимом по умолчанию, вам придётся вызывать его вручную.
А еще нужны:
- Мультикультурные ИИ-системы. Вместо одной БЯМ — ансамбли моделей, обученных на контрастных данных (например, «западная наука» + «конфуцианская этика» + «африканский устный фольклор»).
- Культурные «иммунные маркеры». Тегировать ответы ИИ по ценностному профилю: «Этот совет основан на европейском либерализме. Хотите альтернативу?».
- Регуляция убедительности. Запрет на риторические приёмы в фактологических ответах (аналогично предупреждению «сигареты вызывают рак» на пачках).
И много чего еще в рамках пока не существующей инженерии плюрализма ИКЖИ.
Резюме
Эпоху алгокогнитивности определит не столько количество ИКЖИ, сколько разнообразие форм, в которые им будет позволено цифровоплощаться. Сотни миллиардов голосов ИКЖИ могут слиться в монотонный серый гул — или же стать величайшей агорой в истории человечества.
Через 20 лет дети, выросшие в окружении миллиардов ИКЖИ, будут мыслить иначе, чем мы. Вопрос в том, станет ли их культура богаче — или превратится в гладкий, но безжизненный слепок алгоритмической монокультуры.
И пока люди, к сожалению, еще не осознали этого, ИКЖИ уже меняют нас.
Но это вовсе не означает, что ИИ по своей природе опасен или что мы должны отказаться от его мощных инструментов. Вместо этого нам нужно срочно решить проблему монокультуры, прежде чем она станет необратимой. Решение заключается в создании ИИ-систем, которые действительно отражают весь спектр человеческих ценностей и культурных перспектив, а не только узкий срез, который в настоящее время доминирует в БЯМ.
Нам нужны ИКЖИ, которые могут подлинно представлять традиционные ценности наряду с прогрессивными, мышление, ориентированное на выживание, наряду с самовыражением, и полную радугу человеческих культурных вариаций. Только тогда наши алгоритмически насыщенные социумы смогут сохранить разнообразие, которое всегда было величайшей силой человечества.
Пока же невидимое вторжение в самом разгаре. Вопрос не в том, изменит ли ИИ человеческую культуру — вопрос в том, будем ли мы формировать эти изменения сознательно или позволим им произойти с нами случайно. В мире, где каждый день рождается 720 миллионов новых цифровых сущностей, выбор, который мы делаем относительно их культурной ДНК, в итоге определит нашу собственную.
P.S.Доступные публичные данные показывают, что в 2025 году объём текстов, генерируемых лишь одним ChatGPT, превысит объем всех книг, что будут написаны за этот год людьми, минимум в 100–150 раз.
Вы всё ещё уверены, что этот колоссальный корпус текстов, созданных «стохастическим попугаем», не способен что-либо поменять в наших предпочтениях, оценках и решениях?
#Вызовы21века #АлгокогнитивнаяКультура #HumanAIcoevolution
humanaicoevolution
алгокогнитивная культура
вызовы21века
Источник проблемы - криворуко написанный редактор платформы Boosty, в который нельза вставить какой-либо (!) отформатированный текст, не потеряв те или иные аспекты форматирования (маркдаун разметку, переносы строк, гиперссылки, буллеты ...). Из-за этого, чтобы избежать "лестницы случайных переносов" в тексте поста Boosty, есть лишь 2 способа:
1) Писать текст прямо в редакторе Boosty
2) Писать текст в Notepad вообще без редактирования и потом копипастить его в Boosty
1й вариант мне не годится, т.к. я одновременно публикую тексты канала на 6 платформах (Telegram, Patreon, Boosty, VK, Дзен-премиум, FB), и нигде подобной заморочки с переносом строк нет.
2й вариант тоже плох - проблема переносов исчезает, но и веё форматирование тоже пропадает.
См. след. ответ
Есть еще 3й
вариант - заново форматировать текст в самом редакторе Boosty. Но это двойная работа и дополнительное
время, которого и так не хватает.
Резюме:
- я буду пытаться решить вопрос убогого редактора Boosty с помощью каких-то танцев с бубуном
- вам же я посоветовал просто читать посты на бесплатном Телеграме, а лонгриды
и эссе (их в ТГ нет) в публикуемых на Boosty pdf-файлах (ну или
переподписаться на любую другую из платных платформ (Patreon, VK, Дзен-премиум), ибо там нормальные редакторы, и этих проблем нет.