Нарративы, тусовки и мнения вокруг ИИ (ver 2.0)
Накидал для вас небольшую карту по текущим нарративам, тусовкам, анекдотам и мнениям вокруг развития ИИ (прежде всего, конечно, генеративного — большие языковые модели, генераторы изображений, etc.).
⠀
Ось тряски-восторга: является ли ИИ потенциальным злом или добром.
Тряска (ИИ — опасная вещь, которая изменит жизнь людей к худшему) vs Восторг (ИИ — полезная вещь, которая изменит жизнь людей к лучшему).
⠀
⠀
Ось тряски-восторга: является ли ИИ потенциальным злом или добром.
Тряска (ИИ — опасная вещь, которая изменит жизнь людей к худшему) vs Восторг (ИИ — полезная вещь, которая изменит жизнь людей к лучшему).
⠀
Ось скептики-верующие: насколько ИИ с его текущей траекторией развития вообще способен поменять мир вокруг.
Скептики (ИИ сейчас никакой не интеллект, его развитие зашло в тупик) vs Верующие (ИИ изменит всё, технология развивается семимильными шагами).
⠀
Скептики (ИИ сейчас никакой не интеллект, его развитие зашло в тупик) vs Верующие (ИИ изменит всё, технология развивается семимильными шагами).
⠀
🤔 восторженные скептики
⠀
⠀
(1.1) AGI через ~10 лет: общий искусственный интеллект (AGI), способный мыслить и выполнять любые задачи на уровне человека, ещё за горами, несмотря на заявление бигтех-компаний; весьма популярная идея среди нефанатичных ИИ-энтузиастов.
⠀
⠀
(1.2) «надо больше данных»: текущее развитие ИИ упирается в ограниченность данных (Интернет уже пережёван почти полностью, ср.17), поэтому для выхода на новый уровень нужно, например, «выпустить» ИИ с его сенсорами в реальный мир.
⠀
⠀
(1.3) garbage code enjoyers: новая дилемма айтишников — ИИ пишет код мгновенно, но на его исправление может уходить времени больше, чем на написание с нуля; при этом многие технари позитивно смотрят на развитие технологии в целом.
⠀
⠀
(1.4) Стохастический попугай: современные большие языковые модели (LLM) просто подражают языковым шаблонам, следуя запрограммированным алгоритмам, не понимая сути сказанного — никаких намёков на интеллект в них нет; некоторые учёные призывают при этом к вдумчивому обучению моделей.
⠀
⠀
(1.5) «я узкий»: большинство примеров современного ИИ — узкие специализированные инструменты, которые, конечно, меняют нашу жизнь, но только в частностях; ждать каких-то радикальных трансформаций в обозримом будущем не стоит (смогут ли создать AGI неизвестно).
⠀
⠀
(1.6) Гугл-на-спидах: мнение, что ген-ИИ по сути представляет собой «бройлерный» вариант поискового механизма, помогающий лепить с помощью ускоренной копипасты связный материал из различных источников.
⠀
⠀
(1.7) Парадокс Моравека: для ИИ сложные интеллектуальные задачи (например, игра в шахматы) даются легче, чем простые человеческие сенсомоторные навыки (например, помыть руками посуду и сложить её в шкаф). Пока не будет разрешён этот парадокс, (секси) роботов-домработниц у нас не будет.
⠀
⠀
(1.8) «где рост?»: мнение ряда экономистов, что ИИ не оказывает (и возможно не окажет) того влияния на экономику, которое ему приписывают верующие. Более мягкая версия тезиса об (3.1) ИИ-пузыре.⠀
🤩 восторженные верующие
⠀
⠀
(2.1) секта свидетелей ASI: наиболее фанатичная ИИ-паства, верующая в (более-менее) скорое создание ASI — сильного искусственного интеллекта, способного мыслить и решать любые задачи лучше самого умного человека; создание ASI полностью изменит мир и скорее всего к лучшему (противоположная позиция по оси тряски-восторга: 4.8.ИИ-думеры).
⠀
⠀
(2.2) E/acc: сторонники эффективного акселерационизма, считающие что существующая неолиберальная политэкономическая модель и искусственный интеллект — безусловное благо, ведущее всех нас к прогрессу; регуляции только вредят развитию технологий (ср.2.7); популярный нарратив в силиконовой долине.
⠀
⠀
(2.3) фанбои бигтеха: фанаты OpenAI и других корпораций, которые с нетерпением ждут выпуска каждой новой модельки; посмотреть на ярких представителей можно тут.
⠀
⠀
(2.4) техбро маркетинг: доносящиеся из каждого утюга прохладные истории о том, как генеративный ИИ улучшит вашу жизнь, повысит вашу эффективность и прибыль вашей компании.
⠀
⠀
(2.5) догнать и перегнать Америку: государственные структуры (в т.ч. сами США), рассматривающие развитие ИИ как современную гонку вооружений (ср.4.2).
⠀
⠀
(2.6) opensource guys: сторонники открытого программного кода для ИИ, которые верят, что если код будет открытый, то ИИ будет (скорее всего) хороший и полезный; в этой же тусовке сторонники децентрализованного ИИ (bittensor и прочие криптобро).
⠀
⠀
(2.7) экзистенциальная угроза enjoyers (greed): нарратив о том, что ИИ потенциально опаснее ядерного оружия, но техбро и должное регулирование помогут направить его развитие в нужное русло; мнение продвигается сторонниками популярного в силиконовой долине эффективного альтруизма (EA); в отличие от E/acc больше внимания отводят регулированию технологий во благо человечества; cхожую, но чуть более смещённую в область тряски позицию, высказывает Карл Шваб и давосские рептилоиды.
⠀
⠀
(2.8) «это просто инструмент»: ИИ как кухонный нож, если пользоваться им правильно — вещь полезная и безопасная.
⠀
⠀
(2.9) сингулярность fans: ребята надеются, что быстрое развитие ИИ приведёт к технологической сингулярности, а дальше — только звёзды; популярная идея у разного рода акселерационистов, прежде всего, правых (R/acc).
⠀
(2.10) магия промптов: отношение к промпт-инженирингу как к магическим заклятьям, эвокации духов или своеобразной алхимической деятельности. «Любая достаточно развитая технология неотличима от магии». С другой стороны, активное внедрение ИИ в эзотерическое инфоцыганство и оккультизм.
⠀
(2.11) восторженный Юдковский: максимально верующий апостол, который одновременно трясётся и восторгается ИИ. Заявляет о необходимости создания Дружественного ИИ, который учитывает человеческие ценности, иначе произойдёт (4.9) Максимизатор скрепок.
⠀
(2.12) Дружественный ИИ: концепция о необходимости специальной работы над созданием ИИ, который учитывает человеческие ценности и действует в интересах человечества, иначе всё будет плохо (4.9).
⠀⠀
⠀
(2.10) магия промптов: отношение к промпт-инженирингу как к магическим заклятьям, эвокации духов или своеобразной алхимической деятельности. «Любая достаточно развитая технология неотличима от магии». С другой стороны, активное внедрение ИИ в эзотерическое инфоцыганство и оккультизм.
⠀
(2.11) восторженный Юдковский: максимально верующий апостол, который одновременно трясётся и восторгается ИИ. Заявляет о необходимости создания Дружественного ИИ, который учитывает человеческие ценности, иначе произойдёт (4.9) Максимизатор скрепок.
⠀
(2.12) Дружественный ИИ: концепция о необходимости специальной работы над созданием ИИ, который учитывает человеческие ценности и действует в интересах человечества, иначе всё будет плохо (4.9).
⠀⠀
🤮 трясущиеся скептики
⠀
(3.1) ИИ-пузырь: генеративный ИИ — очередной техно/финансовый пузырь, в стиле доткомов двухтысячных, NFT начала двадцатых и т.п., который однажды (скоро) лопнет; в него спекулятивно вливают огромные деньги, но реальный практический выхлоп — минимальный; весьма популярная идея среди финансовых аналитиков.
⠀
(3.2) AI slop: популярный мем, о захламленнии Интернета потоками некачественного сгенерированного ИИ-материала (slop — жижа); в конспирологических кругах соприкасается с Теорией мёртвого интернета.
⠀
⠀
(3.1) ИИ-пузырь: генеративный ИИ — очередной техно/финансовый пузырь, в стиле доткомов двухтысячных, NFT начала двадцатых и т.п., который однажды (скоро) лопнет; в него спекулятивно вливают огромные деньги, но реальный практический выхлоп — минимальный; весьма популярная идея среди финансовых аналитиков.
⠀
(3.2) AI slop: популярный мем, о захламленнии Интернета потоками некачественного сгенерированного ИИ-материала (slop — жижа); в конспирологических кругах соприкасается с Теорией мёртвого интернета.
⠀
(3.3) дегенерация генераций: контент нейросетей, полученный на основе другого сгенерированного контента, заметно понижается в качестве, а главный источник данных (Интернет) уже под завязку заполнен ИИ-жижей (ср.1.2).
⠀
⠀
(3.4) ИИ-фейкомёт: опасение, что распространение генеративного ИИ, приведёт к тому, что Интернет заполонят фейки, никому не возможно будет верить, и окончательно утвердится эпоха постправды.
⠀
⠀
(3.5) «ИИ просто делает капитализм хуже»: ИИ не несёт тех экзистенциальных рисков, которыми нас пугают CEO корпораций и СМИ (включая массовую безработицу), но зато он делает жизнь простых работников хуже уже сейчас — больше стресса, больше работы, больше контроля; такой нарратив, к примеру, продвигает известный критик бигтеха Кори Доктороу.
⠀
⠀
(3.6) Pravda: разгоняемый в западном Интернете тейк о существовании пророссийской (дез)информационной сети влияния на главные ИИ чат-боты, которая скармливает им миллионы статей, продвигающих пророссийские нарративы (ср. 3.6). Поговаривают, что в таком могут быть замешаны и дугинские евразийцы!
⠀
⠀
(3.7) «AI-violence»: ИИ является продолжением и усилением существующих бюрократических форм дискриминации и насилия (неравенство при найме на работу, социальный/кредитный рейтинг и т.п.). Термин, использованный Дэном МакКуилланом в книге «Сопротивляясь ИИ: антифашистский подход». Схожий с (3.5) нарратив, но с фокусом на проблеме дискриминации и усилении авторитарных политических тенденций.
⠀
⠀
😱 трясущиеся верующие
⠀
⠀
(4.1) AI act: ЕС-овский закон об ИИ, ставящий тряску во главу угла; первый пример обширного законодательного регулирования ИИ.
⠀
⠀
(4.2) «красная угроза»: активировавшиеся после выхода новой китайской модели deepseek опасения (в основном среди американцев), что китайцы выиграют ИИ-гонку (ср.10) и построят везде цифровой концлагерь.
⠀
⠀
(4.3) пророчество массовых увольнений: популярный нарратив, что развитие ИИ приведёт к массовой замене человеческого труда машинным.
⠀
⠀
(4.4) экзистенциальная угроза fans (fear): ИИ потенциально опаснее ядерного оружия, но в отличие от своих восторженных братцев (см.12) считают, что корпорациям доверять нельзя и умеренные ограничения не помогут.
⠀
⠀
(4.5) 1984 fans: не только китайцы могут построить цифровой концлагерь — камеры с ИИ-распознаванием лиц и прочие ИИ-boosted технологии ведут нас в тоталитарное общество. От (3.7) отличаются более апокалиптическими взглядами на силу ИИ.
⠀
⠀
(4.6) Skynet: сюжет из Терминатора, в котором военный ИИ решил уничтожить кожаных ублюдков; корпорации с энтузиазмом принялись за косплей.
⠀
⠀
(4.7) Василиск Роко: будущий (сверх)сильный ИИ накажет всех, кто в прошлом знал о возможности его появления, но не способствовал его созданию; схожий вайб можно найти в рассказе Харлана Эллисона «У меня нет рта, но я должен кричать».
⠀
⠀
(4.8) ИИ-думеры: развитие ИИ неминуемо приведёт к самым печальным последствиям для человечества.
⠀
⠀
(4.9) Максимизатор скрепок: (сверх)сильный ИИ, которому поручено производить скрепки, переработает в скрепки всю Вселенную; считается, что идея принадлежит шведскому технооптимисту Нику Бострому.
⠀
⠀
(4.10) Ортогональный тезис: выдвинутый Ником Бостромом тезис о том, что интеллект и цели независимы: сверхразумный ИИ может преследовать любые, даже самые абсурдные и чуждые человечеству, цели (см. 4.9).
⠀
⠀
(4.11) Антихрист ex Machina: идея о том, что ИИ — это буквально (или метафорически) библейский Антихрист. Кроме антихриста ИИ ассоциируют и с другими религиозными и эзотерическими фигурами (Голем, Демиург) и т.п.
⠀
⠀
(4.12) трясущийся Юдковский: максимально верующий апостол, который одновременно трясётся и восторгается ИИ. Заявляет о необходимости создания Дружественного ИИ, который учитывает человеческие ценности, иначе произойдёт (4.9) Максимизатор скрепок.
⠀
⠀
/// изменения в ver 2.0:
⠀
⠀
/// изменения в ver 2.0:
#искусственныйинтеллект
#ai
#ии