Отдавая сокровенное
Чего мы лишаемся, передавая все больше своих решений алгоритмам
— Когда новостную повестку и мой круг чтения стали формировать алгоритмы, я оставался безмолвным. Причин волноваться
не было, - ведь так было проще и быстрее получать информацию.
не было, - ведь так было проще и быстрее получать информацию.
— Когда алгоритмы соцсетей стали формировать
мне круг друзей и модерировать наше общение, я не стал протестовать. Ибо это расширяломои социальные связи. — Когда алгоритмы стали решать, что мне
покупать, какие фильмы смотреть и какую музыку слушать, меня это устраивало. Я же мог, при желании, отвергать рекомендации алгоритмов.
мне круг друзей и модерировать наше общение, я не стал протестовать. Ибо это расширяломои социальные связи. — Когда алгоритмы стали решать, что мне
покупать, какие фильмы смотреть и какую музыку слушать, меня это устраивало. Я же мог, при желании, отвергать рекомендации алгоритмов.
— Когда алгоритмы стали для меня незаменимы в ситуациях любого выбора - от места работы и отдыха до романтических партнеров, - я был даже рад. Поскольку их рекомендации нравились мне и экономили кучу времени на поиск и оценку вариантов.
— Когда же алгоритмы стали решать вопросы
жизни и смерти людей (сначала на войне, а потом и в мирной жизни), мне было уже бессмысленно протестовать, т.к. здесь от меня вообще ничего не зависело.
жизни и смерти людей (сначала на войне, а потом и в мирной жизни), мне было уже бессмысленно протестовать, т.к. здесь от меня вообще ничего не зависело.
Аллюзия к высказыванию, приписываемому немецкому пастору Нимёллеру, которым он пытался объяснить бездействие немецких интеллектуалов и их непротивление нацистам.
__ __ __ __ __
Если эта аллюзия кажется вам надуманной, ошибочной или даже ложной и не имеющей никакого отношения к реальности — к вам, вашим детям, друзьям и знакомым, — читать дальше нет смысла.
В противном случае, почитайте дальше. И я смею вас уверить, что вы не зря потратите время, узнав немало интересной, малоизвестной и, главное, полезной информации, которую сложно найти
в других источниках на просторах Интернета.
в других источниках на просторах Интернета.
Два устойчивых и широко распространенных мифа гласят:
1. Технологии испокон века меняли жизнь людей и всего общества, и потому происходящий сейчас рост влияния алгоритмов на жизнь людей (от рекомендательных систем и социальных сетей до генеративного ИИ) – просто очередной (хотя и весьма важный) этап
технологического прогресса.
технологического прогресса.
2. Никаких кардинальных изменений в самих людях и обществе в целом рост влияния алгоритмов не несет, ибо они не меняют генетику людей и складывавшуюся веками и тысячелетиями культуру (по крайней мере, пока алгоритмы не обладают субъектностью в сочетании со сверхразумом).
Доказательств того, что оба утверждения – мифы, в реальной жизни уже предостаточно.
Вот одно из них.
Вот одно из них.
Последствия (экспериментально фиксируемые и нарастающие) того, что в вопросах выбора пары (от романтических до семейных отношений), люди все более полагаются на некие
(скрытые ото всех) алгоритмы рекомендаций, перенимающие на себя функции чисто человеческих «андроритмов» (встроенных в нас эволюцией и постоянноперенастраиваемых культурной средой биологических и психологических механизмов
оценки и поиска предпочтений при принятии решений).
(скрытые ото всех) алгоритмы рекомендаций, перенимающие на себя функции чисто человеческих «андроритмов» (встроенных в нас эволюцией и постоянноперенастраиваемых культурной средой биологических и психологических механизмов
оценки и поиска предпочтений при принятии решений).
Подробней о том,
· какие негативные для людей последствия
этого уже наблюдаются;
этого уже наблюдаются;
· почему это происходит без какой-либо «злой
воли» или «умысла» со стороны алгоритмов, а лишь, как следствие оптимизации
алгоритмами заложенных в них разработчиками целевых функций;
воли» или «умысла» со стороны алгоритмов, а лишь, как следствие оптимизации
алгоритмами заложенных в них разработчиками целевых функций;
· почему такие функции, закладываемые в
большинство типов интеллектуальных ИИ-систем, входят в прямое противоречие с
тем, что нужно людям;
большинство типов интеллектуальных ИИ-систем, входят в прямое противоречие с
тем, что нужно людям;
· и, наконец, почему подобное, казалось бы, довольно невинное и полезное вовлечение алгоритмов в процессы принятия наших решений может иметь воистину тектонические последствия - смена формата социума, новый тип культуры и новая форма эволюции
разума,
разума,
– будет рассказано в продолжении этого поста.
Уважаемые подписчики Boosty!
Поскольку побороть идиотизм форматирования текста на этой платформе мне не удается даже при многократном редактировании, я решил прикладывать к публикуемым лонгридам PDF файл поста, чтобы вы могли читать его в нормальном форматировании.
Прокрутите вниз до конца лонгрида и скачайте файл для нормального чтения.
Алгоритмы против андроритмов
История человечества закончилась,
трансформировавшись в 21 веке в «гиперисторию» (подробней см. «Гиперистория,
появление мультиагентных систем и разработка инфраэтики» и «1 марта 2022 - начало войны андроритмов с алгоритмами»). Это качественно иной способ жизни и развития человечества,
в котором теперь два типа акторов: люди (точнее, "встроенные" в нас «андроритмы») и алгоритмы. Теперь культурная
составляющая генно-культурной эволюции вида Homo sapiens зависит от обоих типов
акторов, ведущих деятельность в условиях нового типа культуры — «алгокогнитивная»
(синтетическая) культура андроритмов и алгоритмов.
трансформировавшись в 21 веке в «гиперисторию» (подробней см. «Гиперистория,
появление мультиагентных систем и разработка инфраэтики» и «1 марта 2022 - начало войны андроритмов с алгоритмами»). Это качественно иной способ жизни и развития человечества,
в котором теперь два типа акторов: люди (точнее, "встроенные" в нас «андроритмы») и алгоритмы. Теперь культурная
составляющая генно-культурной эволюции вида Homo sapiens зависит от обоих типов
акторов, ведущих деятельность в условиях нового типа культуры — «алгокогнитивная»
(синтетическая) культура андроритмов и алгоритмов.
Отличительное
свойство алгокогнитивной культуры - активное участие во всех областях жизни и
деятельности людей алгоритмов, все более берущих на себя роль в процессах
выбора и принятия решений, как отдельными людьми, так и сообществами и даже
институтами.
свойство алгокогнитивной культуры - активное участие во всех областях жизни и
деятельности людей алгоритмов, все более берущих на себя роль в процессах
выбора и принятия решений, как отдельными людьми, так и сообществами и даже
институтами.
Вмешательство
алгоритмов в процессы выбора и принятия решений может иметь весьма негативные
для людей последствия. И для этого вовсе не требуется «злая воля» или «умысел»
со стороны алгоритмов. Они просто оптимизируют заложенную в них разработчиками
целевую функцию. И очень часто такая функция входит в прямое противоречие с
тем, что нужно людям.
алгоритмов в процессы выбора и принятия решений может иметь весьма негативные
для людей последствия. И для этого вовсе не требуется «злая воля» или «умысел»
со стороны алгоритмов. Они просто оптимизируют заложенную в них разработчиками
целевую функцию. И очень часто такая функция входит в прямое противоречие с
тем, что нужно людям.
Наиболее простой
и понятный пример – алгоритмы приложений для знакомств, роль которых уже весьма
велика. 30% взрослых американцев (для лиц до 30 лет это 53%) и 52% тех, кто никогда
не состоял в браке, использовали сайты для знакомств или мобильные приложения
для знакомств.
и понятный пример – алгоритмы приложений для знакомств, роль которых уже весьма
велика. 30% взрослых американцев (для лиц до 30 лет это 53%) и 52% тех, кто никогда
не состоял в браке, использовали сайты для знакомств или мобильные приложения
для знакомств.
Источник: «Кто, где и почему заводит знакомства в США»
И эти цифры
растут с ростом популярности таких услуг, принципиально меняющих способ поиска романтических партнеров.
растут с ростом популярности таких услуг, принципиально меняющих способ поиска романтических партнеров.
Как работают сайты и
приложения для онлайн-знакомств
приложения для онлайн-знакомств
Огромное количество людей, пользующихся услугами
знакомств, представляет собой сложную проблему для поставщиков услуг.
Существуют миллионы потенциальных совпадений — слишком много, чтобы один
пользователь мог выполнить исчерпывающий поиск, — поэтому система должна
решить, какие потенциальные совпадения отображать пользователю, чтобы предоставить
подъемное для человеческого анализа подмножество вариантов. Это означает, что
сайты и приложения для знакомств должны использовать алгоритмы для управления тем, что предлагается
пользователям, на основе большого объема данных, которые система собирает от
них.
знакомств, представляет собой сложную проблему для поставщиков услуг.
Существуют миллионы потенциальных совпадений — слишком много, чтобы один
пользователь мог выполнить исчерпывающий поиск, — поэтому система должна
решить, какие потенциальные совпадения отображать пользователю, чтобы предоставить
подъемное для человеческого анализа подмножество вариантов. Это означает, что
сайты и приложения для знакомств должны использовать алгоритмы для управления тем, что предлагается
пользователям, на основе большого объема данных, которые система собирает от
них.
Например, разработчики OkCupid утверждает, что их алгоритм подбирает людей, используя «процент
соответствия» - неких хитрый взвешенный микс всего, что есть общего у каждой
пары потенциальных партнеров. Деталей того, как работают такие алгоритмы, никто
из разработчиков не раскрывает. Но доминирующий принцип в их основе – поиск
«родственных душ».
соответствия» - неких хитрый взвешенный микс всего, что есть общего у каждой
пары потенциальных партнеров. Деталей того, как работают такие алгоритмы, никто
из разработчиков не раскрывает. Но доминирующий принцип в их основе – поиск
«родственных душ».
Всегда считалось, что
счастливые пары — это родственные души. Т.е. похожие по персональным качествам
и характерам люди. Считалось, — какое может быть счастье, если он экстраверт, а
она интроверт; он мягкий и доброжелательный, а она бука и злюка; он кремень, а
она невротик…
счастливые пары — это родственные души. Т.е. похожие по персональным качествам
и характерам люди. Считалось, — какое может быть счастье, если он экстраверт, а
она интроверт; он мягкий и доброжелательный, а она бука и злюка; он кремень, а
она невротик…
По
этому принципу люди столетиями искали свою половину. По нему же сегодня
устроены приложения для знакомств и подбора пар. Однако цели алгоритмов при
таком поиске рекомендуемых партнеров совсем иные, чем у людей, для которых этот
поиск ими осуществляется.
этому принципу люди столетиями искали свою половину. По нему же сегодня
устроены приложения для знакомств и подбора пар. Однако цели алгоритмов при
таком поиске рекомендуемых партнеров совсем иные, чем у людей, для которых этот
поиск ими осуществляется.
Цена анархии при
алгоритмическом подборе романтических партнеров
алгоритмическом подборе романтических партнеров
В начале 1970-х годов Герберт Саймон предсказал, что
обилие информации приведет к дефициту внимания, которое, таким образом, станет
новым видом валюты. Спустя полвека мы видим, как технологические компании сейчас
в основном конкурируют за внимание людей, за их клики и их лояльность. Сегодня
это важнейший фактор успеха в любом онлайн-бизнесе, получивший название «экономика внимания».
обилие информации приведет к дефициту внимания, которое, таким образом, станет
новым видом валюты. Спустя полвека мы видим, как технологические компании сейчас
в основном конкурируют за внимание людей, за их клики и их лояльность. Сегодня
это важнейший фактор успеха в любом онлайн-бизнесе, получивший название «экономика внимания».
Например, в электронной коммерции стимулирование будущих
посещений и покупок пользователей приоритетней для владельцев онлайн-бизнеса,
чем максимизации их долгосрочного удовлетворения.
посещений и покупок пользователей приоритетней для владельцев онлайн-бизнеса,
чем максимизации их долгосрочного удовлетворения.
Экономическая теория «запланированного устаревания»
предсказывает, что олигополисты (относительно небольшое количество крупных компаний, доминирующих на рынке) получают большую прибыль от
производства товаров с более коротким сроком службы (что стимулирует
потребителей покупать чаще. Отсюда проистекает принцип запланированного устаревания любых товаров и услуг: от стиральных
машин и смартфонов до тарифных планов и образовательных программ.
предсказывает, что олигополисты (относительно небольшое количество крупных компаний, доминирующих на рынке) получают большую прибыль от
производства товаров с более коротким сроком службы (что стимулирует
потребителей покупать чаще. Отсюда проистекает принцип запланированного устаревания любых товаров и услуг: от стиральных
машин и смартфонов до тарифных планов и образовательных программ.
На том же принципе построена работа сайтов и приложений
для знакомств. Запланированным устареванием, стимулирующим будущие посещения
пользователей здесь может быть то, что намеренно предлагаются совпадения с
более короткой ожидаемой «долговечностью».
для знакомств. Запланированным устареванием, стимулирующим будущие посещения
пользователей здесь может быть то, что намеренно предлагаются совпадения с
более короткой ожидаемой «долговечностью».
Иными словами, поскольку бизнес-модель большинства служб
онлайн-знакомств сильно зависит от количества их пользователей, это создает
фундаментальный конфликт интересов:
онлайн-знакомств сильно зависит от количества их пользователей, это создает
фундаментальный конфликт интересов:
✔️ большинство пользователей ищет пару для долгосрочных отношений (44%) или для романтических отношений с прицелом на долгосрочные отношения (40%);
✔️ а владелец бизнеса онлайн-знакомств,
максимизирующий свой доход, имеет в
качестве ключевых целей максимизацию вовлеченности
пользователей и все новые их возвращения за новыми услугами – новым подбором
новых потенциальных партнеров.
максимизирующий свой доход, имеет в
качестве ключевых целей максимизацию вовлеченности
пользователей и все новые их возвращения за новыми услугами – новым подбором
новых потенциальных партнеров.
А поскольку, имея разные
цели, владелец системы онлайн-знакомств имеет доступ к большему количеству
информации, чем пользователь, то последний оказывается в руках первого.
цели, владелец системы онлайн-знакомств имеет доступ к большему количеству
информации, чем пользователь, то последний оказывается в руках первого.
Источник: «Кто, где и почему заводит знакомства в США»
В результате, цена анархии
(понятие в экономике и теории игр, которое определяет, насколько эффективность системы
деградирует из-за эгоистического поведения её агентов) при алгоритмическом
подборе романтических партнеров оказывается непомерно высока.
(понятие в экономике и теории игр, которое определяет, насколько эффективность системы
деградирует из-за эгоистического поведения её агентов) при алгоритмическом
подборе романтических партнеров оказывается непомерно высока.
Новое исследование «Цена анархии в алгоритмическом подборе романтических партнеров» нацелено на определение цены анархии при
алгоритмическом подборе романтических партнеров.
алгоритмическом подборе романтических партнеров.
Основные выводы авторов
исследования таковы.
исследования таковы.
·
Хотя эти сайты и приложения для знакомств предлагают пользователям доступ к
беспрецедентному числу потенциальных партнеров, эти сайты и приложения не
альтруистичны, а скорее корыстны, движимы экономическими стимулами.
Хотя эти сайты и приложения для знакомств предлагают пользователям доступ к
беспрецедентному числу потенциальных партнеров, эти сайты и приложения не
альтруистичны, а скорее корыстны, движимы экономическими стимулами.
·
Возникает фундаментальный конфликт интересов, поскольку оптимальное
соответствие пар пользователей может привести к созданию долгосрочных пар и
уменьшению количества одиноких людей, пользующихся сайтом.
Возникает фундаментальный конфликт интересов, поскольку оптимальное
соответствие пар пользователей может привести к созданию долгосрочных пар и
уменьшению количества одиноких людей, пользующихся сайтом.
·
Чтобы максимизировать вероятность возвращения пользователей на сайт, разработчики
стремятся использовать алгоритмы, предлагающие такие сочетания показателей пар,
которые приводят к их недолговечным отношениям.
Чтобы максимизировать вероятность возвращения пользователей на сайт, разработчики
стремятся использовать алгоритмы, предлагающие такие сочетания показателей пар,
которые приводят к их недолговечным отношениям.
·
Полученные авторами оценки снижения социальной эффективности (цены анархии)
систем онлайн-знакомств оказываются примерно такими же, как у большинства
повторяющихся олигополистических взаимодействий продавцов и покупателей: от
ноутбуков и телефонов до приложений по подписке и поставщиков программного
обеспечения. В большинстве случаях онлайн-платформа подбирает пары пользователей
таким образом, чтобы любым легальным способом максимизировать число своих
пользователей. А для этого самый простой способ – подбирать пары так, чтобы их
отношения были недолговечны. После чего пары расходятся, а их участники снова
возвращаются на онлайн-платформу за новыми вариантами.
Полученные авторами оценки снижения социальной эффективности (цены анархии)
систем онлайн-знакомств оказываются примерно такими же, как у большинства
повторяющихся олигополистических взаимодействий продавцов и покупателей: от
ноутбуков и телефонов до приложений по подписке и поставщиков программного
обеспечения. В большинстве случаях онлайн-платформа подбирает пары пользователей
таким образом, чтобы любым легальным способом максимизировать число своих
пользователей. А для этого самый простой способ – подбирать пары так, чтобы их
отношения были недолговечны. После чего пары расходятся, а их участники снова
возвращаются на онлайн-платформу за новыми вариантами.
Итоговый
вывод:
вывод:
✔️поскольку интерес системы онлайн-знакомств
заключается в её максимальном использовании как можно большим количеством
пользователей,
заключается в её максимальном использовании как можно большим количеством
пользователей,
✔️а интерес пользователей - найти для себя
наилучшего кандидата на роль романтического партнера и/или будущего супруга,
наилучшего кандидата на роль романтического партнера и/или будущего супруга,
– стимула предложить пользователю лучший вариант у системы
онлайн-знакомств нет.
онлайн-знакомств нет.
Попросту
говоря, система онлайн-знакомств знает, что если вы найдете любовь всей своей
жизни, то, скорее всего, никогда не вернетесь на платформу… И система работает
так, чтобы минимизировать этот отрицательный для нее сценарий.
говоря, система онлайн-знакомств знает, что если вы найдете любовь всей своей
жизни, то, скорее всего, никогда не вернетесь на платформу… И система работает
так, чтобы минимизировать этот отрицательный для нее сценарий.
И еще два
фундаментальных вывода из этой работы.
фундаментальных вывода из этой работы.
1) При наличии настоящей (!) конкуренции на
рынке систем онлайн-знакомств, эти системы вынужденно идут на встречу интересам
пользователей, умеряя свой коммерческий интерес (см. рис. ниже)
рынке систем онлайн-знакомств, эти системы вынужденно идут на встречу интересам
пользователей, умеряя свой коммерческий интерес (см. рис. ниже)
Жаль
только, что в реальности настоящей конкуренции здесь нет – Match Group,
владеющая Tinder и рядом других платформ для знакомств, имеет значительную долю
доходов на рынке: в 2022 году выручка Match Group $2,8 млрд составила более
половины общей выручки всех компаний на рынке приложений для знакомств $5,34
млрд.
только, что в реальности настоящей конкуренции здесь нет – Match Group,
владеющая Tinder и рядом других платформ для знакомств, имеет значительную долю
доходов на рынке: в 2022 году выручка Match Group $2,8 млрд составила более
половины общей выручки всех компаний на рынке приложений для знакомств $5,34
млрд.
2) Рекомендации «эгоистичного алгоритма»,
преследующего свою цель - максимизация использования платформы как можно
большим количеством пользователей, - даже хуже для пользователя, чем случайный
выбор партнера (см. рисунок ниже: наверху случайный выбор, внизу справа – выбор
«эгоистичного алгоритма», слева – выбор алгоритма без «эгоистичной» цели)
преследующего свою цель - максимизация использования платформы как можно
большим количеством пользователей, - даже хуже для пользователя, чем случайный
выбор партнера (см. рисунок ниже: наверху случайный выбор, внизу справа – выбор
«эгоистичного алгоритма», слева – выбор алгоритма без «эгоистичной» цели)
Из результатов исследования получается, что уж лучше выбирать партнера случайным образом, чем полагаться на
системы онлайн-знакомств.
системы онлайн-знакомств.
Печальные итоги онлайн-знакомств
Источник: iStock
Рассмотренный нами кейс
алгоритмического подбора романтических партнеров весьма показателен.
алгоритмического подбора романтических партнеров весьма показателен.
Он наглядно демонстрирует, как
без всякого злого умысла алгоритмов или их разработчиков, алгоритмические
платформы знакомств направляют людей в реальной жизни к действиям (выбору
конкретных партнеров), отнюдь не соответствующим целям этих людей.
без всякого злого умысла алгоритмов или их разработчиков, алгоритмические
платформы знакомств направляют людей в реальной жизни к действиям (выбору
конкретных партнеров), отнюдь не соответствующим целям этих людей.
И речь здесь не только о
краткосрочных целях романтического знакомства на недельку-другую. Но и о
долгосрочных целях – таких как создание семьи и добрые супружеские отношения, -
поскольку онлайн-фаза знакомства сменяется офлайн-фазой знакомства, которая
может влечь за собой долгосрочные последствия на многие годы (как показано на
рисунке ниже из работы «Долговременный эффект интернет-знакомств:
знакомство в Интернете и путь к браку»).
краткосрочных целях романтического знакомства на недельку-другую. Но и о
долгосрочных целях – таких как создание семьи и добрые супружеские отношения, -
поскольку онлайн-фаза знакомства сменяется офлайн-фазой знакомства, которая
может влечь за собой долгосрочные последствия на многие годы (как показано на
рисунке ниже из работы «Долговременный эффект интернет-знакомств:
знакомство в Интернете и путь к браку»).
Еще 5-7 лет назад мнение, что «приложения для знакомств - наименее предпочтительный способ
знакомиться с людьми», имело под собой лишь интуитивно-эмоциональные
основания.
знакомиться с людьми», имело под собой лишь интуитивно-эмоциональные
основания.
Сейчас ситуация смотрится куда
хуже:
хуже:
· как с точки зрения негативных эмоций – «Такие сервисы превратили знакомства
в помойную яму с призраками, слепой паникой и безудержной дегуманизацией»,
в помойную яму с призраками, слепой паникой и безудержной дегуманизацией»,
· так и в плане наличия разнообразной
удручающей фактуры экспериментальных исследований (даже появился специальный
термин «эффект онлайн-знакомств», относящийся к статистике менее
удовлетворительных и стабильных браков людей, познакомившихся, посредством
сайтов и приложений знакомств).
удручающей фактуры экспериментальных исследований (даже появился специальный
термин «эффект онлайн-знакомств», относящийся к статистике менее
удовлетворительных и стабильных браков людей, познакомившихся, посредством
сайтов и приложений знакомств).
Удручающая фактура
экспериментальных исследований касается далеко не только цены анархии при
алгоритмическом подборе партнеров существующими системами онлайн-знакомств, за
которую пользователь платит выбором далеко не самых подходящих ему партнеров.
экспериментальных исследований касается далеко не только цены анархии при
алгоритмическом подборе партнеров существующими системами онлайн-знакомств, за
которую пользователь платит выбором далеко не самых подходящих ему партнеров.
Помимо цены анархии, другими
экспериментально подтвержденными негативными свойствами практически всех
существующих систем онлайн-знакомств, являются:
экспериментально подтвержденными негативными свойствами практически всех
существующих систем онлайн-знакомств, являются:
· Весьма
малая (если не сказать ничтожная) предсказательная сила рекомендаций по выбору оптимальных романтических
партнеров, рассчитываемых современными системами знакомств на основе машинного
обучения (подробнейший разбор и обоснование см. в работе «Предсказание романтического интереса на ранних
этапах развития отношений: Предварительное исследование с использованием
машинного обучения», а
также в подробном критическом обзоре «Критический обзор литературы, посвященной
выбору долгосрочных романтических партнеров»)
малая (если не сказать ничтожная) предсказательная сила рекомендаций по выбору оптимальных романтических
партнеров, рассчитываемых современными системами знакомств на основе машинного
обучения (подробнейший разбор и обоснование см. в работе «Предсказание романтического интереса на ранних
этапах развития отношений: Предварительное исследование с использованием
машинного обучения», а
также в подробном критическом обзоре «Критический обзор литературы, посвященной
выбору долгосрочных романтических партнеров»)
· Тотальное нарушение
конфиденциальности пользовательской информации (в подтверждение
этого, сообщество Mozilla нанесло предупреждающие надписи на 22 ведущие
платформы онлайн-знакомств, сославшись на их несоблюдение основных стандартов
конфиденциальности и безопасности). Так согласно отчету сообщества Mozilla, «более 90 %
рассмотренных приложений для знакомств - Tinder, Bumble, Scruff, Her, OKCupid и
Facebook Dating - получили предупреждение *Privacy Not Included от
исследователей Mozilla, что свидетельствует о снижении уровня
конфиденциальности с момента последнего обзора в 2021 году. Большинство
приложений для знакомств (80%) передают или продают вашу личную информацию и не
гарантируют всем пользователям право на удаление своих данных. Например,
компания Match Group, владеющая более чем 40 различными приложениями для
знакомств, заявляет, что может "делиться информацией о вас с нашими
филиалами, а они могут делиться информацией о вас с нами" по причинам,
включающим маркетинг и рекламу".
конфиденциальности пользовательской информации (в подтверждение
этого, сообщество Mozilla нанесло предупреждающие надписи на 22 ведущие
платформы онлайн-знакомств, сославшись на их несоблюдение основных стандартов
конфиденциальности и безопасности). Так согласно отчету сообщества Mozilla, «более 90 %
рассмотренных приложений для знакомств - Tinder, Bumble, Scruff, Her, OKCupid и
Facebook Dating - получили предупреждение *Privacy Not Included от
исследователей Mozilla, что свидетельствует о снижении уровня
конфиденциальности с момента последнего обзора в 2021 году. Большинство
приложений для знакомств (80%) передают или продают вашу личную информацию и не
гарантируют всем пользователям право на удаление своих данных. Например,
компания Match Group, владеющая более чем 40 различными приложениями для
знакомств, заявляет, что может "делиться информацией о вас с нашими
филиалами, а они могут делиться информацией о вас с нами" по причинам,
включающим маркетинг и рекламу".
Казалось бы, с учетом всего
вышесказанного, рынок приложений для знакомств должен был бы схлопнуться на
80-90%, оставив там лишь сторонников теории плоской Земли, власти рептилоидов и
т.п.
вышесказанного, рынок приложений для знакомств должен был бы схлопнуться на
80-90%, оставив там лишь сторонников теории плоской Земли, власти рептилоидов и
т.п.
Но нет. Рынок растет, и по прогнозам Morgan Stanley вполне
привлекателен для инвесторов на горизонте до 2030. Ведь число одиноких людей
65+ увеличится в США с 26,3 миллиона в
2021 году до 34,4 миллиона в 2030. И потому планируется подтягивать вовлеченность
этой возрастной группы с текущих 6% как можно ближе к 40%-ной вовлеченности возрастных
групп 18-64. Так что «аналитики ожидают
устойчивого роста, превышающего консенсус, в среднесрочной и долгосрочной
перспективе».
привлекателен для инвесторов на горизонте до 2030. Ведь число одиноких людей
65+ увеличится в США с 26,3 миллиона в
2021 году до 34,4 миллиона в 2030. И потому планируется подтягивать вовлеченность
этой возрастной группы с текущих 6% как можно ближе к 40%-ной вовлеченности возрастных
групп 18-64. Так что «аналитики ожидают
устойчивого роста, превышающего консенсус, в среднесрочной и долгосрочной
перспективе».
Прав был Фридрих Шиллер, написав «Глупость не могли победить даже боги». Ни прогресс науки, ни новые продвинутые
технологии тому не помеха. Ведь как заметил Ежи Лец, - «Глупость никогда не переходит границ: где ступит, там ее территория».
технологии тому не помеха. Ведь как заметил Ежи Лец, - «Глупость никогда не переходит границ: где ступит, там ее территория».
И как это ни прискорбно, эта
территория много шире приложений для подбора партнеров, включая в себя, по
сути, большинство систем алгоритмического принятия решений.
территория много шире приложений для подбора партнеров, включая в себя, по
сути, большинство систем алгоритмического принятия решений.
Социальные последствия
принятия алгоритмических решений
принятия алгоритмических решений
Источник: DALL-E
Дочитав лонгрид до этого места,
· часть читателей
подумает, что «блеск и нищета» приложений для знакомств им была понятна и без чтения
столь длинного текста;
подумает, что «блеск и нищета» приложений для знакомств им была понятна и без чтения
столь длинного текста;
· другие – что
автор, как обычно, хайпует и паникует, а на самом деле, все не так плохо с приложениями
для знакомств, а рост доли алгоритмического влияния на наш выбор – это вообще
благо;
автор, как обычно, хайпует и паникует, а на самом деле, все не так плохо с приложениями
для знакомств, а рост доли алгоритмического влияния на наш выбор – это вообще
благо;
· третьи отнесутся к
прочитанному философски: мол, такова цена прогресса, за любую автоматизацию
приходится чем-то платить; со временем проблемы решаются, и все как-то
устаканивается, - так будет и здесь.
прочитанному философски: мол, такова цена прогресса, за любую автоматизацию
приходится чем-то платить; со временем проблемы решаются, и все как-то
устаканивается, - так будет и здесь.
Не буду никого переубеждать. Но мне видится эта проблема иначе. Равно как и
авторам исследования «Цена анархии в алгоритмическом подборе романтических партнеров».
авторам исследования «Цена анархии в алгоритмическом подборе романтических партнеров».
Вот как
о проблеме социальных последствий распространения алгоритмического принятия решений
рассказывает на
семинаре «Центра людей и машин» при Институте Макса Планка ведущий автор
исследования Андрес Абелюк.
о проблеме социальных последствий распространения алгоритмического принятия решений
рассказывает на
семинаре «Центра людей и машин» при Институте Макса Планка ведущий автор
исследования Андрес Абелюк.
И
проблема эта – далеко не исчерпывается ценой анархии приложений, ничтожной
предсказательной силой алгоритмических рекомендаций и вопиющими нарушениями
конфиденциальности.
проблема эта – далеко не исчерпывается ценой анархии приложений, ничтожной
предсказательной силой алгоритмических рекомендаций и вопиющими нарушениями
конфиденциальности.
Другая и
куда более важная проблема - возрастающее
влияние алгоритмов на предпочтения, мнения, мотивацию, способы мышления и линии
поведения людей в самом широком спектре вопросов жизни и деятельности.
куда более важная проблема - возрастающее
влияние алгоритмов на предпочтения, мнения, мотивацию, способы мышления и линии
поведения людей в самом широком спектре вопросов жизни и деятельности.
Объем и разнообразие такого влияния становятся всеобъемлющими, порождая:
1.
новый формат
общества - алгоритмически
насыщенное общество, которое формируется под влиянием глубоко
запутанных алгоритмических и человеческих процессов, меняющих мышление и поведение
людей;
новый формат
общества - алгоритмически
насыщенное общество, которое формируется под влиянием глубоко
запутанных алгоритмических и человеческих процессов, меняющих мышление и поведение
людей;
2.
новый тип культуры
– алгокогнитивная
культура, формируемая
двумя принципиально разными типами носителей интеллекта и порождающая
гибридную, одновременно нейробиологическую и цифровую, ноосферу;
новый тип культуры
– алгокогнитивная
культура, формируемая
двумя принципиально разными типами носителей интеллекта и порождающая
гибридную, одновременно нейробиологическую и цифровую, ноосферу;
3.
новую форму
эволюции разума на этапе гиперистории земной цивилизации – гибридная
эволюция людей и алгоритмов.
новую форму
эволюции разума на этапе гиперистории земной цивилизации – гибридная
эволюция людей и алгоритмов.
Каждый из трёх вышеназванных трансформирующих социум процессов заслуживает
отдельного рассмотрения. Ибо ничего более важного с людьми не случалось со
времен двух эпохальных трансформаций:
отдельного рассмотрения. Ибо ничего более важного с людьми не случалось со
времен двух эпохальных трансформаций:
✔️ «Большого перехода Homo» 100–50 тыс. лет
назад, когда членораздельная речь (формировавшаяся к тому времени уже
многие десятки, если не сотни тыс. лет) развилась до уровня полностью символического, синтаксически
развитого языка, позволяющего в ходе социального научения передавать огромные объемы
произвольной информации, как между индивидами, так и между поколениями;
назад, когда членораздельная речь (формировавшаяся к тому времени уже
многие десятки, если не сотни тыс. лет) развилась до уровня полностью символического, синтаксически
развитого языка, позволяющего в ходе социального научения передавать огромные объемы
произвольной информации, как между индивидами, так и между поколениями;
✔️ появления у
человечества нового сверхмощного культурного
механизма – религий «Больших Богов», снявших
ограничения на масштабирование кооперации индивидов, без чего невозможно было
дальнейшее усложнение решаемых обществом задач.
человечества нового сверхмощного культурного
механизма – религий «Больших Богов», снявших
ограничения на масштабирование кооперации индивидов, без чего невозможно было
дальнейшее усложнение решаемых обществом задач.
(подробней об этих
двух эпохальных трансформациях читайте в моем лонгриде «Почему и когда пришли
Большие Боги» на зеркалах канала «Малоизвестное интересное» на Medium и Дзен, а также в других
постах и интервью на тему «Большой брат — сын Большого бога», перечень которых
есть тут).
двух эпохальных трансформациях читайте в моем лонгриде «Почему и когда пришли
Большие Боги» на зеркалах канала «Малоизвестное интересное» на Medium и Дзен, а также в других
постах и интервью на тему «Большой брат — сын Большого бога», перечень которых
есть тут).
Здесь же мы лишь укажем на основные источники, где заинтересованный
читатель сможет найти детальное описание каждого из трёх вышеназванных
трансформирующих социум процессов, запущенных в результате передачи от людей
алгоритмам все более широкого спектра принимаемых решений.
читатель сможет найти детальное описание каждого из трёх вышеназванных
трансформирующих социум процессов, запущенных в результате передачи от людей
алгоритмам все более широкого спектра принимаемых решений.
Алгоритмически насыщенное общество
Одно из первых и наиболее полное описание зарождающегося феномена
«алгоритмически насыщенное общество» ("Algorithmically Infused Societies")
было сделано коллективом авторов Института социальных наук GESIS Лейбница,
Ахенского университета, Венского центра комплексных наук, Microsoft Research и Северо-Западного
университета) в работе, озаглавленной “Measuring algorithmically infused societies”, опубликованной в
журнале Nature в 2021.
«алгоритмически насыщенное общество» ("Algorithmically Infused Societies")
было сделано коллективом авторов Института социальных наук GESIS Лейбница,
Ахенского университета, Венского центра комплексных наук, Microsoft Research и Северо-Западного
университета) в работе, озаглавленной “Measuring algorithmically infused societies”, опубликованной в
журнале Nature в 2021.
Авторы этой работы задаются вопросом, как ученые-социологи могут
исследовать общества, наполненные алгоритмами, что может потребовать совсем
других методологий, чем те, которые традиционно использовали социальные
науки.
исследовать общества, наполненные алгоритмами, что может потребовать совсем
других методологий, чем те, которые традиционно использовали социальные
науки.
«Существующий
набор социальных теорий и моделей измерения не был создан с учетом глубокого
социального охвата алгоритмов и, следовательно, может быть неприменим к
человеческим обществам, пронизанным алгоритмами», — пишут они.
Авторы привлекают внимание к основным проблемам измерения социальных явлений в
обществе, наполненном алгоритмами, и обрисовывают пять лучших практик, которым
могут следовать, чтобы смягчить «вредные последствия (неправильных) измерений».
набор социальных теорий и моделей измерения не был создан с учетом глубокого
социального охвата алгоритмов и, следовательно, может быть неприменим к
человеческим обществам, пронизанным алгоритмами», — пишут они.
Авторы привлекают внимание к основным проблемам измерения социальных явлений в
обществе, наполненном алгоритмами, и обрисовывают пять лучших практик, которым
могут следовать, чтобы смягчить «вредные последствия (неправильных) измерений».
Алгоритмы - а также инструменты, сервисы и платформы, на которых они
работают, - влияют на социальные, экономические и политические процессы,
формируя широкий спектр деятельности и практики принятия решений во многих
областях.
работают, - влияют на социальные, экономические и политические процессы,
формируя широкий спектр деятельности и практики принятия решений во многих
областях.
Как показано на рисунке ниже, в алгоритмически насыщенном обществе социальные, экономические, политические и научные процессы не только влияют на разработку и включение в контуры принятия решений алгоритмов, но и сами подвергаются их воздействию.
Источник: “Measuring
algorithmically infused societies”
algorithmically infused societies”
Авторы отмечают, что сейчас мы являемся свидетелями активного
формирования алгоритмически насыщенных обществ, которые функционируют под
влиянием глубоко запутанных алгоритмических и человеческих процессов и
поведения.
формирования алгоритмически насыщенных обществ, которые функционируют под
влиянием глубоко запутанных алгоритмических и человеческих процессов и
поведения.
Спектр уникальных отличий алгоритмически насыщенного общества,
помимо инфозапутанности, включает в себя и другие принципиальные отличия в
культурных механизмах общества, возникающих при переходе к новому типу культуры.
помимо инфозапутанности, включает в себя и другие принципиальные отличия в
культурных механизмах общества, возникающих при переходе к новому типу культуры.
Алгокогнитивная
культура
культура
На рубеже 20–21 веков в развитых странах, в результате бурного прогресса
инфокоммуникационных технологий, стал формироваться принципиально новый тип культуры — алгокогнитивная. Его принципиальным отличием стало
появление в традиционной культуре еще одного носителя интеллекта - алгоритмов и
последовавший за этим лавинообразный процесс передачи принятия решений по все
более широкому кругу вопросов от людей к алгоритмам.
инфокоммуникационных технологий, стал формироваться принципиально новый тип культуры — алгокогнитивная. Его принципиальным отличием стало
появление в традиционной культуре еще одного носителя интеллекта - алгоритмов и
последовавший за этим лавинообразный процесс передачи принятия решений по все
более широкому кругу вопросов от людей к алгоритмам.
Медийной основой (медийной не в смысле медиа,
как СМИ, а как основной среды коммуникаций и инфообмена) нового типа культуры
стала гибридная (материально-нематериальная)
цифровая гиперсеть, агентами которой, помимо людей, все чаще становятся
алгоритмы. Свойства этой
гиперсети таковы, что, живя внутри неё, люди постепенно превращаются в инфоргов
(информационные организмы, связанные с биологическими агентами и инженерными
алгоритмическими артефактами в глобальной среде — инфосфере), а управление
гиперсетью постепенно переходит в ведение алгоритмов.
как СМИ, а как основной среды коммуникаций и инфообмена) нового типа культуры
стала гибридная (материально-нематериальная)
цифровая гиперсеть, агентами которой, помимо людей, все чаще становятся
алгоритмы. Свойства этой
гиперсети таковы, что, живя внутри неё, люди постепенно превращаются в инфоргов
(информационные организмы, связанные с биологическими агентами и инженерными
алгоритмическими артефактами в глобальной среде — инфосфере), а управление
гиперсетью постепенно переходит в ведение алгоритмов.
Многие аспекты понятия «алгокогнитивная культура» (этот
термин введен мною три с лишним года назад для трансдисциплинарного обобщения начавшихся
трансформационных процессов в культуре, рассматриваемых с позиций когнитивной
эволюции людей и технологического развития инфокоммуникационных технологий) уже
довольно подробно рассмотрены в десятках моих постов и интервью (см. контент
моего Телеграм-канала с тэгом #АлгокогнитивнаяКультура).
термин введен мною три с лишним года назад для трансдисциплинарного обобщения начавшихся
трансформационных процессов в культуре, рассматриваемых с позиций когнитивной
эволюции людей и технологического развития инфокоммуникационных технологий) уже
довольно подробно рассмотрены в десятках моих постов и интервью (см. контент
моего Телеграм-канала с тэгом #АлгокогнитивнаяКультура).
Вот ссылки на три вводных поста
по этой теме.
по этой теме.
1) Первый рассказ о том, что:
·
начался новый фазовый переход в эволюции людей, и его результаты могут
превзойти последствия когнитивной революции, сформировавшей 50–100 тыс. лет
назад условия для развития у Homo sapiens особого типа культуры —
— по терминологии Мерлина Дональда“культура обмена мыслями” или “культура
общего ума”;
начался новый фазовый переход в эволюции людей, и его результаты могут
превзойти последствия когнитивной революции, сформировавшей 50–100 тыс. лет
назад условия для развития у Homo sapiens особого типа культуры —
— по терминологии Мерлина Дональда“культура обмена мыслями” или “культура
общего ума”;
·
эта культура, активизирующая и модулирующая процессы “распределенного
коллективного познания”, с тех пор
выполняла функцию приводного ремня когнитивной эволюции людей;
эта культура, активизирующая и модулирующая процессы “распределенного
коллективного познания”, с тех пор
выполняла функцию приводного ремня когнитивной эволюции людей;
·
в 21 веке революционная смена медиатехнологий радикально изменила
инфосоциальную среду коллективного познания людей, в результате чего, впервые в
эволюционной истории человечества, меняются механизмы и направление когнитивной
эволюции (если раньше, даже при самых кардинальных изменениях, вид Homo sapiens всегда оставался собой, то теперь он начинает меняться).
в 21 веке революционная смена медиатехнологий радикально изменила
инфосоциальную среду коллективного познания людей, в результате чего, впервые в
эволюционной истории человечества, меняются механизмы и направление когнитивной
эволюции (если раньше, даже при самых кардинальных изменениях, вид Homo sapiens всегда оставался собой, то теперь он начинает меняться).
2) Второй рассказ о том, как:
·
новые медиатехнологии культуры обмена мыслями, включили человеческий мозг в общую когнитивную
сеть, связанную со сложными небиологическими системами памяти и крупнейшей из
них — Всемирной паутиной, в результате чего и стала принципиально меняться
традиционная культура обмена мыслями:
новые медиатехнологии культуры обмена мыслями, включили человеческий мозг в общую когнитивную
сеть, связанную со сложными небиологическими системами памяти и крупнейшей из
них — Всемирной паутиной, в результате чего и стала принципиально меняться
традиционная культура обмена мыслями:
·
пройдя через три трасформации, традиционная культура превратилась в «алгокогнитивную»,
отличающуюся двумя радикальными новациями:
пройдя через три трасформации, традиционная культура превратилась в «алгокогнитивную»,
отличающуюся двумя радикальными новациями:
✔️ новый механизм неявного обмена
мыслями —цифровая стигмергия;
мыслями —цифровая стигмергия;
✔️ новые способы массового
“социального заражения” с вирусной и “радиоактивной” динамикой;
“социального заражения” с вирусной и “радиоактивной” динамикой;
3) И, наконец, третий рассказ о том:
· как работает еще одна радикальная новация алгокогнитивной культуры — «инфозапутанность», взрывным образом на много порядков
увеличивающая инфопотоки в распределенной когнитивной сети человечества и
пробивая бреши в, казалось бы, нерушимых перекрытиях между этажами
психофизиологической и социокультурной информации,
увеличивающая инфопотоки в распределенной когнитивной сети человечества и
пробивая бреши в, казалось бы, нерушимых перекрытиях между этажами
психофизиологической и социокультурной информации,
В конце прошлого года к моему определению «алгокогнитивная культура»
появился синоним «машинная культура» (имхо, мой вариант все же точнее). Теперь
эти идеи продвигаются уже не только мною, но и междисциплинарной коалицией
эволюционных антропологов, психологов, культурологов, биологов, когнитивистов,
лингвистов, социологов и экономистов, представляющих:
появился синоним «машинная культура» (имхо, мой вариант все же точнее). Теперь
эти идеи продвигаются уже не только мною, но и междисциплинарной коалицией
эволюционных антропологов, психологов, культурологов, биологов, когнитивистов,
лингвистов, социологов и экономистов, представляющих:
• Центр людей и машин, Институт
человеческого развития Макса Планка, Берлин, Германия
человеческого развития Макса Планка, Берлин, Германия
• Тулузская школа экономики, Тулуза,
Франция
Франция
• Институт перспективных
исследований в Тулузе, Тулуза, Франция
исследований в Тулузе, Тулуза, Франция
• Кафедра социологии и социальных
исследований, Университет Тренто, Тренто, Италия
исследований, Университет Тренто, Тренто, Италия
• Факультет психологии и
компьютерных наук, Принстонский университет, Принстон, Нью-Джерси, США
компьютерных наук, Принстонский университет, Принстон, Нью-Джерси, США
• Кафедра эволюционной биологии
человека, Гарвардский университет, Кембридж, Массачусетс, США
человека, Гарвардский университет, Кембридж, Массачусетс, США
• DeepMind Technologies Ltd, Лондон,
Великобритания
Великобритания
• Институт эволюционной антропологии
Макса Планка, Лейпциг, Германия
Макса Планка, Лейпциг, Германия
• Inria, команда Flowers,
Университет Бордо, Бордо, Франция
Университет Бордо, Бордо, Франция
• Центр совместимого с человеком
искусственного интеллекта, Калифорнийский университет, Беркли, Беркли,
Калифорния, США
искусственного интеллекта, Калифорнийский университет, Беркли, Беркли,
Калифорния, США
Вот ссылка (за пэйволом)
на так и озаглавленную «Machine culture» работу,
опубликованную в Nature этой междисциплинарной группой авторов, а это ссылка открытого
доступа.
на так и озаглавленную «Machine culture» работу,
опубликованную в Nature этой междисциплинарной группой авторов, а это ссылка открытого
доступа.
И хотя выводы этой работы во многом повторяют написанное выше, считаю
важным привести их здесь.
важным привести их здесь.
• Машинные технологии от алгоритмов
поисковых и рекомендательных систем до LLM оказывают существенное влияние на
культурную эволюцию.
поисковых и рекомендательных систем до LLM оказывают существенное влияние на
культурную эволюцию.
• Эти технологии, изменяя
характеристики вариации, передачи и отбора, несут в себе потенциал
непредвиденных последствий, вызывая обеспокоенность по поводу навязывания
особого культурного или идеологического нарратива.
характеристики вариации, передачи и отбора, несут в себе потенциал
непредвиденных последствий, вызывая обеспокоенность по поводу навязывания
особого культурного или идеологического нарратива.
• Поисковые и рекомендательные
системы, которые управляют и фильтруют информацию, играют важную роль в
культурной эволюции, способствуя новым социальным связям и изменяя
информационные потоки.
системы, которые управляют и фильтруют информацию, играют важную роль в
культурной эволюции, способствуя новым социальным связям и изменяя
информационные потоки.
• Эти системы могут изменить
структуру социально-когнитивных сетей и пути передачи культуры.
структуру социально-когнитивных сетей и пути передачи культуры.
• ChatGPT, большая языковая модель
(LLM), изменила то, как люди взаимодействуют с машинами, и используется для
обучения, мозгового штурма и совершенствования идей.
(LLM), изменила то, как люди взаимодействуют с машинами, и используется для
обучения, мозгового штурма и совершенствования идей.
• LLM выступают в качестве моделей
человеческой культуры, передавая и переоценивая культурные знания между
отдельными людьми и поколениями.
человеческой культуры, передавая и переоценивая культурные знания между
отдельными людьми и поколениями.
Заключение авторов к этой работе (которое они поручили написать ChatGPT)
таково:
таково:
Симбиоз
человеческого и машинного интеллекта формирует новую эпоху культурной эволюции.
Эта перспектива подчеркивает преобразующую роль интеллектуальных машин в
изменении творческого потенциала, переопределении ценности навыков и изменении
взаимодействия между людьми.
человеческого и машинного интеллекта формирует новую эпоху культурной эволюции.
Эта перспектива подчеркивает преобразующую роль интеллектуальных машин в
изменении творческого потенциала, переопределении ценности навыков и изменении
взаимодействия между людьми.
Вследствие
взаимодействия людей и алгоритмов, кардинально меняется вся триада культурной
эволюции: вариативность, передача и отбор. Это взаимодействие многогранно: от
поисковых и рекомендательных алгоритмов, влияющих на индивидуальные взгляды и
предпочтения, до генеративного ИИ, порождающего новые культурные артефакты.
взаимодействия людей и алгоритмов, кардинально меняется вся триада культурной
эволюции: вариативность, передача и отбор. Это взаимодействие многогранно: от
поисковых и рекомендательных алгоритмов, влияющих на индивидуальные взгляды и
предпочтения, до генеративного ИИ, порождающего новые культурные артефакты.
Происходит гибридизации
культуры двух носителей интеллекта: людей и машин.
культуры двух носителей интеллекта: людей и машин.
Гибридная
эволюция людей и алгоритмов
эволюция людей и алгоритмов
Гибридная алгокогнитивная
культура двух носителей интеллекта (людей и алгоритмов) кардинально изменит людей,
- как индивидов, так и их социумы. В ходе 5го когнитивного фазового
перехода (когнитивной революции) эволюция Homo sapiens поменяет свой движок на гибридный (см. рис. выше).
культура двух носителей интеллекта (людей и алгоритмов) кардинально изменит людей,
- как индивидов, так и их социумы. В ходе 5го когнитивного фазового
перехода (когнитивной революции) эволюция Homo sapiens поменяет свой движок на гибридный (см. рис. выше).
Почетный профессор Королевского университета и член
Всемирной академии искусств и наук Мерлин Дональд предвидел и описал это еще 10 лет назад в работе «Цифровая
эра: вызовы современному разуму».
Всемирной академии искусств и наук Мерлин Дональд предвидел и описал это еще 10 лет назад в работе «Цифровая
эра: вызовы современному разуму».
«Цифровые медиа - это новый интерфейс между разумом и миром. Они позволяют
нам получить мгновенный доступ к бесконечно расширяемой системе коллективной
памяти. Это архиважный прорыв, но он может серьезно нарушить древний процесс совместной
эволюции между мозгом и культурой, который удерживал темпы культурных и
технологических изменений в допустимых пределах. Традиционные культуры, при
всех их недостатках, оставались в пределах адаптивных возможностей индивидуального
мозга. Однако недавний взрыв цифровой культуры поставил все формы традиционной
культуры под серьезную угрозу.
нам получить мгновенный доступ к бесконечно расширяемой системе коллективной
памяти. Это архиважный прорыв, но он может серьезно нарушить древний процесс совместной
эволюции между мозгом и культурой, который удерживал темпы культурных и
технологических изменений в допустимых пределах. Традиционные культуры, при
всех их недостатках, оставались в пределах адаптивных возможностей индивидуального
мозга. Однако недавний взрыв цифровой культуры поставил все формы традиционной
культуры под серьезную угрозу.
Основная проблема - когнитивная: экономическая система все больше
привязывается к мвшинным алгоритмам, которые либо игнорируют, либо преуменьшают
самые основные потребности человеческого разума. В результате получается неконтролируемая
система управления, в которой успех зависит от приспособления индивидуального
разума к алгоритмам, в значительной степени управляемым машинами, а не наоборот…
привязывается к мвшинным алгоритмам, которые либо игнорируют, либо преуменьшают
самые основные потребности человеческого разума. В результате получается неконтролируемая
система управления, в которой успех зависит от приспособления индивидуального
разума к алгоритмам, в значительной степени управляемым машинами, а не наоборот…
В результате, все формы традиционной культуры окажутся под угрозой. Справедливо
будет сказать, что даже сама человеческая природа также подвергается испытанию».
будет сказать, что даже сама человеческая природа также подвергается испытанию».
А вот как описывает этот
эволюционный перелом известный российский исследователь д.ф.н. Д.И.Дубровский. В его работе «Развитие
искусственного интеллекта
и глобальный кризис земной цивилизации (к анализу социогуманитарных проблем)» новый эволюционный этап назван антропотехнологическая эволюция и определен, как форма и средство перехода к новому этапу жизни земной цивилизации.
эволюционный перелом известный российский исследователь д.ф.н. Д.И.Дубровский. В его работе «Развитие
искусственного интеллекта
и глобальный кризис земной цивилизации (к анализу социогуманитарных проблем)» новый эволюционный этап назван антропотехнологическая эволюция и определен, как форма и средство перехода к новому этапу жизни земной цивилизации.
«Можно с уверенностью полагать, что идущая
уже несколько десятилетий и набирающая темпы антропотехнологическая эволюция способна
привести к существенным, возможно, качественным преобразованиям нашего интеллекта, творческих
способностей, нашей телесности и в силу этого основного комплекса наших потребностей,
а тем самым к
трансформации социума».
уже несколько десятилетий и набирающая темпы антропотехнологическая эволюция способна
привести к существенным, возможно, качественным преобразованиям нашего интеллекта, творческих
способностей, нашей телесности и в силу этого основного комплекса наших потребностей,
а тем самым к
трансформации социума».
Подводя итог, давайте вернемся к началу
- к двум широко
распространенным мифам о том:
- к двум широко
распространенным мифам о том:
1.
что технологии
испокон века меняли жизнь людей и всего общества, и потому происходящий сейчас
рост влияния алгоритмов на жизнь людей (от рекомендательных систем и социальных
сетей до генеративного ИИ) – просто очередной (хотя и весьма важный) этап
технологического прогресса;
что технологии
испокон века меняли жизнь людей и всего общества, и потому происходящий сейчас
рост влияния алгоритмов на жизнь людей (от рекомендательных систем и социальных
сетей до генеративного ИИ) – просто очередной (хотя и весьма важный) этап
технологического прогресса;
2.
что никаких
кардинальных изменений в самих людях и обществе в целом рост влияния алгоритмов
не несет, ибо они не меняют генетику людей и складывавшуюся веками и
тысячелетиями культуру (по крайней мере, пока алгоритмы не обладают
субъектностью в сочетании со сверхразумом).
что никаких
кардинальных изменений в самих людях и обществе в целом рост влияния алгоритмов
не несет, ибо они не меняют генетику людей и складывавшуюся веками и
тысячелетиями культуру (по крайней мере, пока алгоритмы не обладают
субъектностью в сочетании со сверхразумом).
Надеюсь, что этим лонгридом мне удалось показать, почему мне видятся ошибочными оба этих мифа.
Начавшийся на Земле 5й когнитивный фазовый переход
уникален, даже в сравнении с четырьмя предыдущими в истории человечества:
уникален, даже в сравнении с четырьмя предыдущими в истории человечества:
✔️ началась смена формата наших социумов;
✔️ меняется тип культуры, служившей приводным
ремнем когнитивной эволюции людей в течение многих тысячелетий;
ремнем когнитивной эволюции людей в течение многих тысячелетий;
✔️ началось
формирование новой формы эволюции разума в ходе гибридной эволюции
людей и алгоритмов.
формирование новой формы эволюции разума в ходе гибридной эволюции
людей и алгоритмов.
Сохранится
ли в результате всего этого наш подвид в качестве носителя высшего интеллекта
на Земле, или люди
исчезнут, подобно неандертальцам, оставив другому носителю интеллекта часть
своих генов?
ли в результате всего этого наш подвид в качестве носителя высшего интеллекта
на Земле, или люди
исчезнут, подобно неандертальцам, оставив другому носителю интеллекта часть
своих генов?
Уступим
ли мы место новому воплощенному
когнитивному гибриду?
ли мы место новому воплощенному
когнитивному гибриду?
Или на
смену нам придут чисто цифровые
алгоритмические сущности?
смену нам придут чисто цифровые
алгоритмические сущности?
Этого
пока никто не знает.
пока никто не знает.
Но то,
что все это началось с казавшейся удобной и не опасной передачи принятия
решений алгоритмам, - это уже свершившийся факт.
что все это началось с казавшейся удобной и не опасной передачи принятия
решений алгоритмам, - это уже свершившийся факт.
PDF этого лонгрида в нормальном форматировании
pdf
Отдавая сокровенное.pdf3.29 Mb
алгокогнитивная культура
выбор партнера
аналитика bigdata
психология