Сингулярность против штукатурки
Знающие заговорили, говорящие не услышали
Два года назад я начинал выступления на тему «Вызовы и риски переформатирования мира и человека в цифру» со слайда с цитатой из «Трактата о Пути и Благой Силе» Лао-цзы: «Знающий не говорит, говорящий не знает». Те, кто имел полный доступ к происходящему на фронтире ИИ (руководители и ведущие специалисты компаний – разработчиков самых продвинутых моделей), тогда в основном отмалчивались или ограничивались туманными прогнозами. А публичное поле заполняли мнения людей, далеких от фронтирных лабораторий и не знакомых с информацией из закрытых источников.
В 2025 знающие заговорили, а в 2026 руководители OpenAI, Anthropic и Google DeepMind стали резать правду-матку без оглядки на «политкорректность»: ИИ-сингулярность уже началась, и в ближайшее десятилетие ИИ кардинально изменит мир.
Но в том же 2026 тема ИИ взлетела на вершину хайпа и зазвучала из каждого утюга. Своими оценками и прогнозами стали подробно делиться философы и биологи, физики и химики, психологи и политологи, экономисты и финансисты – люди с заслуженной репутацией в своих областях, но столь же далекие от фронтирных лабораторий, как и публичные комментаторы прошлых лет.
В результате экспертные ножницы между обладающими и не обладающими полнотой информации разошлись до предела. Это поляризует и общественный дискурс, и взгляды и действия политиков, а при нынешней неопределенности и скорости перемен в ИИ грозит ошибочными решениями, вплоть до катастрофических.
Вот два характерных свежих примера. Первый – лекция сооснователя Anthropic Джека Кларка «Inside the Event Horizon: Why Everyone Should Take AI Progress Seriously», прочитанная 17 октября в Бангкоке на ежегодных встречах МВФ и Всемирного банка. Это лекция фонда Пера Якобссона – одна из самых статусных трибун мировой финансовой элиты, с которой традиционно выступают центробанкиры и крупнейшие экономисты. Так что адресатами Кларка были министры финансов, управляющие центробанков и ведущие финансисты мира.
Второй пример – интервью известного финансиста и инвестора (иноагента) популярному YouTube-каналу, который в Рунете часто называют латвийским (о ком речь и что за канал вы, наверняка, знаете и без меня)).
Финансист вряд ли слышал лекцию, но его интервью читается как прямой ответ на нее – и расходится с ней почти в каждом пункте.
Начнем с главного – годятся ли прежние модели.
Кларк вслед за Вернором Винджем определяет сингулярность как точку, где «наши модели приходится отбросить и наступает новая реальность», и утверждает, что в этом году получены убедительные свидетельства ее начала.
Финансист исходит из противоположного. «Научный взгляд – это то, что ты можешь высказывать свое суждение только относительно того, что ты в повторяющемся эксперименте наблюдал», – говорит он. С ИИ такого эксперимента не было, зато в многократно повторенном эксперименте с инновациями (от колеса до железных дорог и биткоина) ничего экстраординарного не происходило. Поэтому ИИ, по его прогнозу, ждет обычный цикл: его будут антропоморфизировать, приписывать ему апокалиптические свойства, вкладывать в него гигантские деньги, а потом «штукатурка начнет обрушиваться». В этой схеме лекция Кларка оказывается симптомом первой фазы цикла, а не свидетельством.
Кларк вслед за Вернором Винджем определяет сингулярность как точку, где «наши модели приходится отбросить и наступает новая реальность», и утверждает, что в этом году получены убедительные свидетельства ее начала.
Финансист исходит из противоположного. «Научный взгляд – это то, что ты можешь высказывать свое суждение только относительно того, что ты в повторяющемся эксперименте наблюдал», – говорит он. С ИИ такого эксперимента не было, зато в многократно повторенном эксперименте с инновациями (от колеса до железных дорог и биткоина) ничего экстраординарного не происходило. Поэтому ИИ, по его прогнозу, ждет обычный цикл: его будут антропоморфизировать, приписывать ему апокалиптические свойства, вкладывать в него гигантские деньги, а потом «штукатурка начнет обрушиваться». В этой схеме лекция Кларка оказывается симптомом первой фазы цикла, а не свидетельством.
Дальше – о том, кто кого учит.
Кларк рассказывает о тесте TheoPhysEval: физики из разных стран составили 50 неопубликованных задач, решения которых модель не могла нигде прочесть. Он цитирует одного из авторов, индийского физика Суврата Раджу: модели, особенно GPT-6 Astra, настаивали, что ошибаются эксперты, – и в нескольких случаях эксперты действительно нашли «тонкие ошибки, спрятанные глубоко в их вычислениях». После исправлений результат Astra вырос до 49 из 50. «Учитель становится учеником», – резюмирует Кларк.
Финансист видит в ИИ совсем другое: ребенка, которого «посадили в замкнутую комнату без окон, со стенами без цвета, и через микрофон диктуют некоторую информацию». Итог у него такой: «Мы имеем дело с очень умным, очень аутичным ребенком, у которого только один канал получения информации из вторых рук».
Кларк рассказывает о тесте TheoPhysEval: физики из разных стран составили 50 неопубликованных задач, решения которых модель не могла нигде прочесть. Он цитирует одного из авторов, индийского физика Суврата Раджу: модели, особенно GPT-6 Astra, настаивали, что ошибаются эксперты, – и в нескольких случаях эксперты действительно нашли «тонкие ошибки, спрятанные глубоко в их вычислениях». После исправлений результат Astra вырос до 49 из 50. «Учитель становится учеником», – резюмирует Кларк.
Финансист видит в ИИ совсем другое: ребенка, которого «посадили в замкнутую комнату без окон, со стенами без цвета, и через микрофон диктуют некоторую информацию». Итог у него такой: «Мы имеем дело с очень умным, очень аутичным ребенком, у которого только один канал получения информации из вторых рук».
О рабочих местах.
Кларк утверждает, что ИИ уже способнее и эффективнее подавляющего большинства программистов мира, а вскоре 10 млн ученых будут руководить миллиардом виртуальных.
Финансист напоминает, куда делись банковские бухгалтеры после компьютеризации: переквалифицировались в комплаенс-офицеров и налоговых специалистов. Программисты, по его мнению, переквалифицируются в «интерпретаторов данных», а рынок, как всегда, абсорбирует рабочую силу. Уже сейчас, по грубым оценкам на основе опросов, созданные ИИ рабочие места примерно равны утраченным.
Кларк утверждает, что ИИ уже способнее и эффективнее подавляющего большинства программистов мира, а вскоре 10 млн ученых будут руководить миллиардом виртуальных.
Финансист напоминает, куда делись банковские бухгалтеры после компьютеризации: переквалифицировались в комплаенс-офицеров и налоговых специалистов. Программисты, по его мнению, переквалифицируются в «интерпретаторов данных», а рынок, как всегда, абсорбирует рабочую силу. Уже сейчас, по грубым оценкам на основе опросов, созданные ИИ рабочие места примерно равны утраченным.
Об энергии и мощностях.
Кларк десять лет убеждал правительства строить электростанции и дата-центры, и, по его словам, мало кто послушал: мощности сосредоточены в США, Китае и на Ближнем Востоке, цепочки поставок перегружены, цены растут.
Финансист считает, что энергетические мощности создаются «более или менее в такт» и «дефицита пока не возникает». А если стройка и чипы не будут успевать, «ничего страшного в этом нет, мы без него жили недавно». Это единственная пара, где спор идет о проверяемом факте сегодняшнего дня, а не о прогнозе.
Кларк десять лет убеждал правительства строить электростанции и дата-центры, и, по его словам, мало кто послушал: мощности сосредоточены в США, Китае и на Ближнем Востоке, цепочки поставок перегружены, цены растут.
Финансист считает, что энергетические мощности создаются «более или менее в такт» и «дефицита пока не возникает». А если стройка и чипы не будут успевать, «ничего страшного в этом нет, мы без него жили недавно». Это единственная пара, где спор идет о проверяемом факте сегодняшнего дня, а не о прогнозе.
О роботах.
Для Кларка выход ИИ в физический мир через роботов и автономные лаборатории – следующая фаза революции.
Финансист не видит здесь «даже того уровня революции», что в самом ИИ: заводские роботы давно существуют, а робот с ИИ – просто более сложный автомобиль, еще один способ передать энергию неживой материи.
Для Кларка выход ИИ в физический мир через роботов и автономные лаборатории – следующая фаза революции.
Финансист не видит здесь «даже того уровня революции», что в самом ИИ: заводские роботы давно существуют, а робот с ИИ – просто более сложный автомобиль, еще один способ передать энергию неживой материи.
Об экономике.
Модель Anthropic в «сингулярном» сценарии дает ВВП США в 44 трлн долларов к 2030 году (сейчас – чуть больше 30), и Кларк сам признает, что это звучит дико.
Финансист видит пузырь: по его словам, около 40% ИИ-проектов уже остановлено, отрасль финансируется в долг активнее, чем американские железные дороги XIX века, а гиперскейлеры уходят в отрицательный денежный поток. Дальше следует самое профессиональное место интервью. Когда гиперскейлеры придут на долговой рынок вслед за дефицитными бюджетами государств, спреды разойдутся даже при снижении базовых ставок. Деньги будут дорожать в тот самый момент, когда центробанк попытается их удешевить, и регуляторы лишатся главного рычага монетарной политики. Итогом может стать долговой кризис просто потому, что ИИ требует очень много заемных денег.
Модель Anthropic в «сингулярном» сценарии дает ВВП США в 44 трлн долларов к 2030 году (сейчас – чуть больше 30), и Кларк сам признает, что это звучит дико.
Финансист видит пузырь: по его словам, около 40% ИИ-проектов уже остановлено, отрасль финансируется в долг активнее, чем американские железные дороги XIX века, а гиперскейлеры уходят в отрицательный денежный поток. Дальше следует самое профессиональное место интервью. Когда гиперскейлеры придут на долговой рынок вслед за дефицитными бюджетами государств, спреды разойдутся даже при снижении базовых ставок. Деньги будут дорожать в тот самый момент, когда центробанк попытается их удешевить, и регуляторы лишатся главного рычага монетарной политики. Итогом может стать долговой кризис просто потому, что ИИ требует очень много заемных денег.
И о рисках.
Кларк предупреждает, что ИИ уже участвует в собственной разработке, что без предельной осторожности «мы можем потерять контроль над технологией» и что миру нужны необычные и серьезные правила, а также сдержанность.
Финансист на прямой вопрос о прогнозе гибели человечества к 2036 году отвечает, что апокалиптические прогнозы – характерное свойство инноваций со времен каменного века: изобретателя колеса тоже наверняка пугали, что теперь весь мир погибнет.
Кларк предупреждает, что ИИ уже участвует в собственной разработке, что без предельной осторожности «мы можем потерять контроль над технологией» и что миру нужны необычные и серьезные правила, а также сдержанность.
Финансист на прямой вопрос о прогнозе гибели человечества к 2036 году отвечает, что апокалиптические прогнозы – характерное свойство инноваций со времен каменного века: изобретателя колеса тоже наверняка пугали, что теперь весь мир погибнет.
Обе картины внутренне логичны, и обе адресованы тем, кто принимает решения. Расходятся они в исходных данных:
- один опирается на свежие результаты с фронтира,
- другой – на историю инноваций, в которой таких результатов не было.
Можно возразить, что у знающих есть конфликт интересов: компания Кларка зарабатывает на том, во что он призывает поверить. Но знающий от этого не перестает быть знающим. В конфликте интересов можно было обвинить и Эйнштейна, предупреждавшего в 1939 году Рузвельта о возможности атомной бомбы: ученые ценят признание своих открытий не меньше, чем бизнесмены – прибыль. К тому же главный аргумент Кларка проверяется и без него: TheoPhysEval составили физики, не связанные с Anthropic, и победила в нем модель конкурента. Да и продавец, призывающий замедлить разработку собственного товара и ввести для своей отрасли серьезные правила, на рекламщика похож мало. Кларк заранее дал определение этой ситуации: сингулярность и есть момент, когда экстраполяция прошлого перестает работать.
Так что формула Лао-цзы в 2026 году нуждается в поправке.
Говорить стали все, но знание распределено по-прежнему неравномерно, и экспертные ножницы проходят ровно по этой границе.
Говорить стали все, но знание распределено по-прежнему неравномерно, и экспертные ножницы проходят ровно по этой границе.
#ИИ #Будущее #Прогноз
ии
будущее
прогноз