Малоизвестное интересное

Малоизвестное интересное 

Авторский канал Сергея Карелова

401subscribers

499posts

Showcase and bundles

266
A bundle is a collection, compilation, playlist, or catalog of posts that saves you from searching through the blog and lets you buy the entire content series in a single click.

Сингулярность против штукатурки

Знающие заговорили, говорящие не услышали
 
Два года назад я начинал выступления на тему «Вызовы и риски переформатирования мира и человека в цифру» со слайда с цитатой из «Трактата о Пути и Благой Силе» Лао-цзы: «Знающий не говорит, говорящий не знает». Те, кто имел полный доступ к происходящему на фронтире ИИ (руководители и ведущие специалисты компаний – разработчиков самых продвинутых моделей), тогда в основном отмалчивались или ограничивались туманными прогнозами. А публичное поле заполняли мнения людей, далеких от фронтирных лабораторий и не знакомых с информацией из закрытых источников.
В 2025 знающие заговорили, а в 2026 руководители OpenAI, Anthropic и Google DeepMind стали резать правду-матку без оглядки на «политкорректность»: ИИ-сингулярность уже началась, и в ближайшее десятилетие ИИ кардинально изменит мир.
Но в том же 2026 тема ИИ взлетела на вершину хайпа и зазвучала из каждого утюга. Своими оценками и прогнозами стали подробно делиться философы и биологи, физики и химики, психологи и политологи, экономисты и финансисты – люди с заслуженной репутацией в своих областях, но столь же далекие от фронтирных лабораторий, как и публичные комментаторы прошлых лет.
В результате экспертные ножницы между обладающими и не обладающими полнотой информации разошлись до предела. Это поляризует и общественный дискурс, и взгляды и действия политиков, а при нынешней неопределенности и скорости перемен в ИИ грозит ошибочными решениями, вплоть до катастрофических.
Вот два характерных свежих примера. Первый – лекция сооснователя Anthropic Джека Кларка «Inside the Event Horizon: Why Everyone Should Take AI Progress Seriously», прочитанная 17 октября в Бангкоке на ежегодных встречах МВФ и Всемирного банка. Это лекция фонда Пера Якобссона – одна из самых статусных трибун мировой финансовой элиты, с которой традиционно выступают центробанкиры и крупнейшие экономисты. Так что адресатами Кларка были министры финансов, управляющие центробанков и ведущие финансисты мира.
Второй пример – интервью известного финансиста и инвестора (иноагента) популярному YouTube-каналу, который в Рунете часто называют латвийским (о ком речь и что за канал вы, наверняка, знаете и без меня)).
Финансист вряд ли слышал лекцию, но его интервью читается как прямой ответ на нее – и расходится с ней почти в каждом пункте.
Начнем с главного – годятся ли прежние модели. 
Кларк вслед за Вернором Винджем определяет сингулярность как точку, где «наши модели приходится отбросить и наступает новая реальность», и утверждает, что в этом году получены убедительные свидетельства ее начала. 
 Финансист исходит из противоположного. «Научный взгляд – это то, что ты можешь высказывать свое суждение только относительно того, что ты в повторяющемся эксперименте наблюдал», – говорит он. С ИИ такого эксперимента не было, зато в многократно повторенном эксперименте с инновациями (от колеса до железных дорог и биткоина) ничего экстраординарного не происходило. Поэтому ИИ, по его прогнозу, ждет обычный цикл: его будут антропоморфизировать, приписывать ему апокалиптические свойства, вкладывать в него гигантские деньги, а потом «штукатурка начнет обрушиваться». В этой схеме лекция Кларка оказывается симптомом первой фазы цикла, а не свидетельством.
Дальше – о том, кто кого учит. 
Кларк рассказывает о тесте TheoPhysEval: физики из разных стран составили 50 неопубликованных задач, решения которых модель не могла нигде прочесть. Он цитирует одного из авторов, индийского физика Суврата Раджу: модели, особенно GPT-6 Astra, настаивали, что ошибаются эксперты, – и в нескольких случаях эксперты действительно нашли «тонкие ошибки, спрятанные глубоко в их вычислениях». После исправлений результат Astra вырос до 49 из 50. «Учитель становится учеником», – резюмирует Кларк. 
 Финансист видит в ИИ совсем другое: ребенка, которого «посадили в замкнутую комнату без окон, со стенами без цвета, и через микрофон диктуют некоторую информацию». Итог у него такой: «Мы имеем дело с очень умным, очень аутичным ребенком, у которого только один канал получения информации из вторых рук».
О рабочих местах. 
Кларк утверждает, что ИИ уже способнее и эффективнее подавляющего большинства программистов мира, а вскоре 10 млн ученых будут руководить миллиардом виртуальных. 
 Финансист напоминает, куда делись банковские бухгалтеры после компьютеризации: переквалифицировались в комплаенс-офицеров и налоговых специалистов. Программисты, по его мнению, переквалифицируются в «интерпретаторов данных», а рынок, как всегда, абсорбирует рабочую силу. Уже сейчас, по грубым оценкам на основе опросов, созданные ИИ рабочие места примерно равны утраченным.
Об энергии и мощностях. 
Кларк десять лет убеждал правительства строить электростанции и дата-центры, и, по его словам, мало кто послушал: мощности сосредоточены в США, Китае и на Ближнем Востоке, цепочки поставок перегружены, цены растут. 
 Финансист считает, что энергетические мощности создаются «более или менее в такт» и «дефицита пока не возникает». А если стройка и чипы не будут успевать, «ничего страшного в этом нет, мы без него жили недавно». Это единственная пара, где спор идет о проверяемом факте сегодняшнего дня, а не о прогнозе.
О роботах. 
Для Кларка выход ИИ в физический мир через роботов и автономные лаборатории – следующая фаза революции. 
 Финансист не видит здесь «даже того уровня революции», что в самом ИИ: заводские роботы давно существуют, а робот с ИИ – просто более сложный автомобиль, еще один способ передать энергию неживой материи.
Об экономике. 
Модель Anthropic в «сингулярном» сценарии дает ВВП США в 44 трлн долларов к 2030 году (сейчас – чуть больше 30), и Кларк сам признает, что это звучит дико. 
 Финансист видит пузырь: по его словам, около 40% ИИ-проектов уже остановлено, отрасль финансируется в долг активнее, чем американские железные дороги XIX века, а гиперскейлеры уходят в отрицательный денежный поток. Дальше следует самое профессиональное место интервью. Когда гиперскейлеры придут на долговой рынок вслед за дефицитными бюджетами государств, спреды разойдутся даже при снижении базовых ставок. Деньги будут дорожать в тот самый момент, когда центробанк попытается их удешевить, и регуляторы лишатся главного рычага монетарной политики. Итогом может стать долговой кризис просто потому, что ИИ требует очень много заемных денег.
И о рисках. 
Кларк предупреждает, что ИИ уже участвует в собственной разработке, что без предельной осторожности «мы можем потерять контроль над технологией» и что миру нужны необычные и серьезные правила, а также сдержанность. 
 Финансист на прямой вопрос о прогнозе гибели человечества к 2036 году отвечает, что апокалиптические прогнозы – характерное свойство инноваций со времен каменного века: изобретателя колеса тоже наверняка пугали, что теперь весь мир погибнет.
Обе картины внутренне логичны, и обе адресованы тем, кто принимает решения. Расходятся они в исходных данных: 
  • один опирается на свежие результаты с фронтира, 
  • другой – на историю инноваций, в которой таких результатов не было. 
Можно возразить, что у знающих есть конфликт интересов: компания Кларка зарабатывает на том, во что он призывает поверить. Но знающий от этого не перестает быть знающим. В конфликте интересов можно было обвинить и Эйнштейна, предупреждавшего в 1939 году Рузвельта о возможности атомной бомбы: ученые ценят признание своих открытий не меньше, чем бизнесмены – прибыль. К тому же главный аргумент Кларка проверяется и без него: TheoPhysEval составили физики, не связанные с Anthropic, и победила в нем модель конкурента. Да и продавец, призывающий замедлить разработку собственного товара и ввести для своей отрасли серьезные правила, на рекламщика похож мало. Кларк заранее дал определение этой ситуации: сингулярность и есть момент, когда экстраполяция прошлого перестает работать.
Так что формула Лао-цзы в 2026 году нуждается в поправке. 
Говорить стали все, но знание распределено по-прежнему неравномерно, и экспертные ножницы проходят ровно по этой границе.
#ИИ #Будущее #Прогноз
Subscription levels4

Бронзовая

$2.44$1.83 per month
-25%
billed every 12 months
Все посты в
текстовом и аудио форматах, плюс в начале каждого месяца обзор публикаций прошлого
месяца в форматах текстового ревью, аудио-пересказа и видео-презентации.

Серебряная

$5$3.8 per month
-25%
billed every 12 months
Всё как в
Бронзовой плюс лонгриды и эссе в двух форматах: текстовом и в аудио.

Золотая

$8.9$6.7 per month
-25%
billed every 12 months
Всё как в Серебряной
плюс чат обсуждений плюс доступ к участию в проводимых мною Zoom-лекциях и
Q&A семинарах (после подписки присылайте мне на @karelovs Ваш Username)

Алмазная

$12.7$9.6 per month
-25%
billed every 12 months
Всё как в Золотой
плюс эксклюзивный доступ к информарию канала - уникальные возможности в диалоге
с ИИ-мнемозиной канала получать в 8 форматах ответы по любой интересующей
теме/вопросу, плюс возможность проведения индивидуальных Q&A по материалам и темам публикаций (после подписки присылайте мне на @karelovs Ваш Username)
Go up