В основе всего рукотворного лежит миф - и именно он показывает, как это рукотворное в итоге сработает.

Любая система, инфраструктура, процедура и т.п. является воплощением какого-либо предельного убеждения - чего-то, во что создатели верят без каких-либо попыток проблематизации.

И можно принимать новые законы, внедрять новые технологии, менять процедуры, вводить новые слова (это три верхних уровня пирамиды каузальности по Sohail Inayatullah) - но если они ложатся на то же мифологическое основание, системные эффекты будут неизменны.

Мем про «Что бы мы ни делали, получается автомат Калашникова» - не особенность устройства отдельно взятой производственной среды, а принцип, справедливый для любой среды.

И рассказ про это будет, довольно типично для меня, через провокацию, вынесенную в заголовок:

Тоталитарные антиутопии, декларирующие лишение всякой личной свободы, и миры развитого потребления, декларирующие максимальную свободу выбора, возможностей и максимальный комфорт, в одинаковой степени ослабляют способность человека доверять собственным чувствам, собственной памяти и собственному пониманию реальности, создавать собственные ценностные основания и образы будущего - то есть, лишают субъектности и власти над собственной жизнью. "Оба хуже", в общем =)

Пройдемся по аспектам сопоставления - а моя версия ответа, что же это за миф такой, что мы строили, строили, и все равно построили реальность, в которой человек со всем его человеческим мешает, будет в конце.

Мир «1984» и мир алгоритмически управляемого комфорта не равны по политическому устройству, масштабу насилия и юридическому статусу свободы. У Оруэлла тоталитарное государство опирается на пытку, дефицит, слежку, репрессию и монополию на истину; у современного цифрового капитализма контроль чаще действует не против свободы, а через нее - через удобство, релевантность, самооптимизацию и обещание избавить человека от трения, неопределенности и перегрузки.

Поэтому нельзя сказать, что эти мироустройства вообще похожи.

Но если мы посмотрим именно на аспект "Что делает с человеком (и как именно на него смотрит)" - появляется "место встречи".

Ханна Арендт (см. The Origins of Totalitarianism) описывает тоталитаризм как режим, стремящийся разрушить спонтанность и различение факта и фикции.

Шошана Зубофф (см. The Age of Surveillance Capitalism) указывает, что все системы мира потребления работают на то, чтобы "автоматизировать" человека подстроить его поведение под чужие цели.

Две экономически, технологически и этически разные платформы антропологически работают весьма сходно - формируя похожего субъекта: управляемого, предсказуемого и все меньше принадлежащего самому себе.

Отсюда и точный предмет параллели: не «у нас уже тот же ужас, что в 1984», а «механизмы утраты себя могут воспроизводиться и без кирзового сапога на загривке». В тоталитаризме система уничтожает внутреннюю опору на «я» через страх и идеологический захват. В алгоритмическом мире она делает нечто функционально сходное через постоянное внешнее калибрование внимания, выбора и самопредъявления.

Пример: То, что сегодня выглядит как помощь в навигации по информационному хаосу, одновременно может быть системой предварительного форматирования того, что человек увидит, о чем подумает и как будет себя вести, - так как в саму систему подсказок и советов уже заложен выгодный создателю "путь пользователя".

🔴В оруэлловском мире чувства - это не частная территория, а политически опасная зона. Неправильное выражение лица уже является преступлением: в романе прямо говорится, что «неправильное» лицо, например недоверие в момент победных сообщений, наказуемо, и для этого существует специальное слово - facecrime. Тоталитарная власть там разрушает не только знание, но и способность чувствовать по-своему — доверять своим чувствам, любить не тот объект, переживать не ту эмоцию, которую предписывает коллективная машина аффекта.

🔴🔴Современная индустрия алгоритмического комфорта достигает сходного результата не наказанием за чувство, а его рыночной и социальной перекодировкой. Эмпирические исследования показывают, что «недостаточная» позитивная реакция - например, получение меньшего числа лайков, чем у других, - переживается как отвержение, угроза статусу и принадлежности, вызывает отрицательный аффект и негативные самосуждения. Одновременно психологические исследования аутентичности на соцплатформах фиксируют: чем более человек воспринимает свое онлайн-«я» как неаутентичное и зависимое от внешнего влияния, тем хуже связанные с этим показатели психического благополучия.

Дальше включается ключевой механизм современной мягкой дисциплины: человек начинает подстраивать не только сообщение, но и самого себя под предполагаемую логику алгоритма. Исследование пользовательских folk theories показывает, что алгоритмические ленты разрывают прямую связь между «я» и аудиторией: человек уже не знает, кто именно его видит, и вынужден вырабатывать догадки о том, что система вознаграждает видимостью. Исследования «игры в видимость» добавляют, что пользователи и создатели контента постепенно усваивают алгоритмические «правила» и перестраивают под них поведение, а угрозой становится уже не надзор как таковой, а угроза невидимости.

А там, где включается автоматическая модерация, рождается даже особая практика языкового самоискажения - algospeak, то есть самoцензура и обходной язык ради того, чтобы остаться в поле допустимого, "быть своим".

Именно здесь параллель особенно сильна. В тоталитарной системе человек учится не чувствовать то, что чувствует, а проверять, какие чувства безопасны. В алгоритмической системе он учится не просто чувствовать, а чувствовать «публикуемо», «лайкаемо», «видимо».

В обоих случаях внутренний аффект перестает быть надежным источником самопонимания и становится материалом для редактирования.

🔴У Оруэлла контроль над прошлым - не вторичный элемент, а сердцевина власти: прошлое должно безостановочно корректироваться, потому что партия обязана оставаться непогрешимой, а если факты не совпадают с текущей линией, тем хуже для фактов. Утрата памяти здесь означает не забывчивость, а демонтаж последней независимой инстанции, через которую человек мог бы опереться на свой опыт против системы.

🔴🔴В современном мире память редко уничтожают; чаще ее переустраивают, внешне (мнимо) расширяя, но внутренне ослабляя. Платформы становятся внешними хранилищами и инструментами «когнитивного аутсорсинга»: часть запоминания переносится в технологическую среду. Но особенно важен другой вывод: алгоритмически вызванное воспоминание - когда система сама решает, что и когда напомнить вам о прошлом, то есть, не просто помогает помнить, а участвует в создании жизненного нарратива. Платформа не нейтрально «достает» прошлое, а фактически рассказывает его вам заново. Современные обзоры цифровой памяти добавляют, что алгоритмическая курация меняет не только индивидуальную, но и коллективную память, одновременно манипулируя историческими нарративами.

☝️А поскольку эпизодическая память - "строительный материал" для конструирования образов будущего, оба типа мироустройства, действуя инструментально по-разному (запрет на "неправильные" воспоминания vs "подкрутка" воспоминаний) вызывают одинаковую неспособность конструировать "надежные" (связные и вызывающие доверие) образы будущего - темпоральную миопию.

‼️В обоих вариантах - тоталитарном и алгоритмическом - к этому добавляется еще один механизм: эпистемическое размывание памяти через повторение лжи. Психологические исследования показывают, что даже однократное предварительное знакомство с фейковой новостью повышает последующее восприятие ее как правдоподобной. Более того, повторное предъявление дезинформации может снижать уверенность человека в ответах по тем фактам, которые он раньше знал правильно.

В тоталитарном мире человек говорит: "мое воспоминание ничего не значит, если партия утверждает обратное". В алгоритмическом мире формула мягче, но эффект близок: "я не уверен, что помню правильно; возможно, реальным было то, что платформа напомнила, показала чаще, подняла в ленте и сделала знакомым". Именно так исчезает память как опора автономии.

🔴В "1984" власть уничтожает не только факты, но и саму способность ориентироваться в реальности. Новояз задуман для сужения диапазона мысли; двоемыслие требует одновременно отрицать очевидное и считать это нормой. Именно поэтому по Арендт идеальный объект тоталитарного правления - это не убежденный фанатик, а человек, для которого различие между фактом и вымыслом, истинным и ложным разрушено.

🔴🔴Современная система не навязывает одну официальную онтологию, но делает саму картину мира фрагментированной и персонализированной. Философский анализ рекомендательных систем уточняет: эти системы - машины распределения внимания, чья базовая цель состоит в том, чтобы решить проблему перегрузки, выбрав за пользователя то, что, вероятнее всего, вовлечет его именно сейчас. Так социальная реальность начинает приходить к человеку не как единое и разнообразное пространство, а как персонально рассчитанная последовательность вероятных зацепок. Алгоритмы работают на метрики вовлечения, показывая человеку не то, что позволит ему понять, как на самом деле обстоят дела, а то, на что он, учитывая его поведенческие паттерны, скорее среагирует (лайкнет, пошарит, откомментирует). Параллельно обзоры информационной перегрузки показывают: избыток цифровой информации связан со стрессом, выгоранием, падением качества решений, ощущением утраты контроля и снижением эффективности понимания.

‼️Именно здесь "оруэлловская" и "цифровая" логики сходятся глубже всего. В тоталитаризме субъект лишают ориентиров, подменяя мир одной догмой. В алгоритмическом комфорте субъект лишается ориентиров иначе: мир распадается на поток персонализированных релевантностей, а критическое расстояние уменьшается из-за перегрузки, повторения и непрозрачной селекции. Но итог один и тот же: человеку все труднее сказать "я сам понимаю, что происходит".

⏺ Важный парадокс состоит в том, что обе системы строятся на языке заботы о порядке.

⏺ В интерпретации Арендт тоталитарная идеология всегда обещает свести хаотическую сложность мира к логике одной идеи и представить себя как исполнителя якобы объективных законов природы или истории. Иначе говоря, насилие подается как рациональное наведение порядка там, где прежде были двусмысленность, множественность и конфликт.

⏺ Технологическая версия того же жеста выглядит более невинно. Она говорит не о "законах истории", а о трении, шуме, перегрузке, неэффективности, нерелевантности - то есть, берет на себя заботу об "очищении" и структурировании нашего медиапространства и пространства жизни.

Но Зубофф (см. выше) явно показывает, что язык "связанности", "умности", "открытости" и "удобства" может быть встроен в систему извлечения поведенческих данных и модификации поведения; она прямо пишет, что цель таких систем постепенно смещается от мониторинга к "актуации", то есть к настройке и перенаправлению действий, а не просто их наблюдению.

А Бен-Чхоль Хан (см. Burnout Society) радикализует эту мысль: в неолиберальной психополитике свобода сама начинает производить принуждение, потому что человек переживает себя как свободный проект, но фактически встраивается в бесконечную логику самооптимизации, самопросчета и самoэксплуатации.

Рувруа и Стиглер добавляют еще один слой: в основе алгоритмической правительственности (algorithmic governmentality) лежит стремление к объектности, безопасности и нейтрализации неопределенности. Ее задача - не столько понять человека как субъекта, сколько сократить пространство неожиданного, сузить поле действий и сделать поведение вычислимым. И в тоталитарной, и в алгоритмической версии «порядка» человеческая непредсказуемость становится проблемой управления.

Если собрать все механизмы вместе, становится видно, что обе системы производят одну и ту же антропологическую деформацию. И Океания, и развитое алгоритмическое потребление выигрывают тогда, когда человек перестает быть источником собственных критериев. Когда он уже не знает, что чувствует сам, не уверен, что помнит сам, и не может собрать мир в картину, которой доверяет сам. Утрата себя начинается не в момент явного запрета, а в момент, когда внешняя система становится более убедительным посредником между мной и реальностью, чем я сам.

В пределе субъект больше не автор своей жизни, а узел адаптации внутри большей системы.

Разумеется, разница между пыткой и рекомендацией, между лагерем и лентой, между политической тюрьмой и push-уведомлением огромна.

Но именно это различие восприятия делает современный случай коварным.

Там, где насилие очевидно, сопротивление интуитивно.

Там, где контроль приходит в форме помощи, развлечения, удобства и персонального сервиса, он невидим и часто воспринимается как благо.

Зубофф подчеркивает, что новая власть не хочет «сломать» нас, а хочет "автоматизировать"; Хан - что сильная власть действует тихо и через переживание свободы; Рувруа и Стиглер - что такие технологии обходят рефлексию и сокращают пространство этического самоотношения.

Именно поэтому мир комфорта может производить эффекты, которые мы привыкли искать только в антиутопии, - а мы это даже не замечаем и, напротив, с удовольствием их поддерживаем.

🎯Задача этой параллели - не в том, чтобы всех напугать или назвать современность «новым 1984», а в том, чтобы перестать успокаиваться различием форм. Антиутопия учит нас распознавать разрушение субъекта под грубым давлением. Исследования цифровой современности показывают, что похожий ущерб автономии может возникать и под знаком доброжелательного интерфейса. Так что разговоры о тирании комфорта, алгоритмической селекции и кризисе искренности - не морализаторство и не ностальгия, а вопрос о том, останется ли у человека право быть последней инстанцией для самого себя.

❓На каких мифах это стоит?

Предвижу возражение - мол, причем тут мифы, так просто дешевле. Да, дешевле - в парадигме централизованной и профессионализированной власти и на базе мифа о контроле как источнике власти. А кто сказал, что власть должна быть централизованной? Кто сказал, что только контроль обеспечивает эффективное управление? Кто сказал, что "общественный администратор" должно быть профессией?

В общем. Про мифы.

- "Власть = контроль". Ну а контролировать действительно проще единообразное или хотя бы хорошо предсказуемое. Поэтому логично - либо "построить", либо запрограммировать/надрессировать. А лучше и то, и другое =)

- "Стабильность = благо". Очень хорошо дополняют друг друга с мифом про власть, так как у них общий интерес - предсказуемость среды. А люди-то живые - импульсивные, изменчивые. Пренебречь - надрессируем =)

- "Человек слаб". В смысле, подвержен импульсам, эмоциям, страстям, безумным идеям, перепадам настроения. Слаб = эмоционален = плохо. Очевидно, что такому точно нужно управление "сверху". Палка, морковка, вождение за ручку - это все инструменты.

- Миф о грехопадении. "Вкусить от плода с древа познания добра и зла" - то есть, обрести собственную способность проблематизировать и создавать ценностные и этически конструкты - это значит потерять истинный путь и "отпасть от рая". Ну и чтобы найти эту дорогу назад - нужно изо всех сил от этой способности отказываться =)

- А власть, как известно, от бога. И когда ее слушаешься, а не что-то свое изобретаешь в зоне онтологий, возвращаешься на путь истинный =)

☝️Смена мифа - это не смена знака, а создание нового основания. Это не спорить, равны люди или не равны - это убрать линейку.