Мы уже как 3 года
разглядываем горизонт событий. А полгода назад, как написал тогда Сэм Альтман,
мы были уже «около сингулярности; но непонятно, с какой стороны». Сегодня же,
спустя всего полгода, это, по мнению Альтмана, наконец прояснилось: точка
невозврата пройдена — сингулярность уже началась. Но она оказалась... мягкой.

В эссе «The Gentle Singularity» создатель ChatGPT описывает будущее без голливудского пафоса, но от
этого оно лишь пугающе-реально.

Мы уже живем с цифровым сверхразумом.GPT-4 и o3 уже умнее нас в десятках задач, а ближайшие «оценки» обещают агентам
написать нерешённое уравнение, а роботам — построить для себя новый завод.2025-2027: Три года, которые изменят
все — агенты уже
пишут код, скоро будут делать научные открытия, а затем... роботы выйдут в
реальный мир.

Начался цикл рекурсивного
самосовершенствования — ИИ помогает создавать лучший ИИ. До превращения экспоненты развития
ИИ в вертикаль, возможно, остались месяцы. И это уже не фантастика.

Интеллект и энергия — ноль
ограничений. Один
запрос к ChatGPTсейчас
потребляет столько же энергии, сколько духовка за секунду. Скоро это будет
стоить сильно дешевле. Если стоимость «мозга» сведётся к цене
киловатт-часа, скорость научного взлёта будет измеряться не годами, а
неделями: «десятилетие исследований за месяц» — не метафора, а дорожная
карта.

Эффект свечки на ветру. Малейший баг в ценностях, умноженный
на сотни миллионов пользователей, превращается в глобальный провал.
Поэтому Альтман настаивает: сначала — решаем проблему выравнивание, потом
— раздаём сверхразум как Wi-Fi.

Затем Альтман
ловко меняет тон с инженерного на философский: сравнивает нас с крестьянами XI века, для которых наши сегодняшние «серьёзные»
профессии выглядели бы пустыми забавами. И значит, профессии 2035-го
покажутся нам таким же фарсом — и это нормально.

Почему нужно
читать сейчас? Потому что
2030-е, хотя и «не изменят любовь к родным и вкус речной воды», но в корне
перепишут всё остальное. А это эссе даёт шанс увидеть кривую экспоненты до
того, как она станет вертикальной.

#Сингулярность  #Техносингулярность