Все мы высиживаем гигантские яйца - муляжи
В цифровом мире, обманывающем наши инстинкты, мы получаем удовольствие сейчас и худшую жизнь потом. А появление ИИ превратит этот обман в новую среду обитания
В 1940-х годах биолог Нико Тинберген подложил самке кулика-сороки гипсовое яйцо, в несколько раз превосходившее настоящие. Птица выбрала подделку. Она отчаянно пыталась усесться на гигантское яйцо, едва удерживаясь на нем, и забросила собственную кладку.
Птица делала то, что миллионы лет помогало ее предкам выживать: выбирала самое крупное яйцо. Но теперь инстинкт работал против нее.
Восемьдесят лет спустя люди оказались в положении этой птицы. Только наша ситуация еще хуже: люди намеренно создают подобные приманки, да еще и будь здоров как зарабатывают, продавая их друг другу.
В опубликованном 5 ноября эссе для The New York Times психолог Анджела Дакворт предлагает поразительно точный диагноз нашей цивилизации.
Этологи называют подобные приманки сверхнормальными стимулами. Они преувеличивают сигналы, на которые настроены эволюцией наши исконные инстинкты, настолько, что подделка начинает привлекать сильнее оригинала.
И вот к середине 3-ей декады 21 века мы оказались в мире, заполненном такими подделками.
- Еда. Эволюционная тяга к сахару, соли и жирам превратилась в индустрию ультрапереработанных продуктов, созданных для максимального удовольствия.
- Информация. Любопытство и потребность следить за происходящим в группе эксплуатируются бесконечными потоками гиперперсонализированных видео. Исследователь цифровой культуры Кэл Ньюпорт назвал ролик TikTok «цифровым Dorito» (Doritos – это популярные американские кукурузные чипсы, чей вкус промышленно усилен, чтобы вызывать желание есть еще и еще. TikTok делает то же самое с нашим вниманием).
- Красота. Инстинктивное предпочтение признаков здоровья и молодости превратилось в гонку искусственно преувеличенных губ, глаз, лиц и всего остального (скажем так – тел).
- Азарт. Древние механизмы ожидания непредсказуемой награды обслуживаются круглосуточными приложениями для ставок (от онлайн казино до рынков предсказаний).
Но самое интересное, как обычно, в 5м пункте.
ИИ, пишет Дакворт, становится самой мощной технологией ультрапереработки из всех существующих.
Мы эволюционно запрограммированы доверять человеческим лицам, голосам, проявлениям внимания и сочувствия. А теперь машины научились воспроизводить эти сигналы с поразительной убедительностью.
В отдельных исследованиях сгенерированные ИИ лица оценивались как более заслуживающие доверия, чем настоящие. Ответы ИИ пациентам воспринимались как более эмпатичные, чем ответы врачей. Машинные тексты порой казались читателям более человечными, чем написанные людьми.
Это, имхо, порождает взрывающую мозг смесь фейкового контента и цифровой зависимости.
Если раньше сверхнормальный стимул был готовой приманкой, то теперь он может подстраиваться под конкретного человека, изучать его реакции, находить слабости и непрерывно совершенствоваться.
Яйца - муляжи научились изучать приманиваемых птиц и за счет этого стали делать это сверхэффективно.
Полвека назад философ Роберт Нозик предложил мысленный эксперимент эдакую машину приятных переживаний (типа «слега» из «Хищных вещей века» Стругацких). Согласились бы вы навсегда подключиться к такой машине, дарящей любые желаемые переживания, от великой любви до творческого триумфа? Нозик – идеалист и романтик. Он предполагал, что большинство откажется. Ведь нам важно действительно жить, действовать и быть кем-то, а не только переживать соответствующие ощущения.
Но Дакворт чужда идеализму и романтизму: машину приятных переживаний больше не нужно изобретать. Мы уже живем внутри нее.
Мне же остается добавить свои 10 коп. И кто про что, а я про ИИ.
Беда не только в том, что алгоритмы будут решать за нас, чего мы хотим. А еще и в том, что мы сами будем искренне хотеть именно того, к чему они научились нас склонять.
И что в этом алгокогнитивном мире останется от свободы выбора, если сам механизм управления нашими желаниями станет объектом инженерного проектирования сверхнормальных стимулов?
#АлгокогнитивнаяКультура
алгокогнитивная культура
