creator cover Малоизвестное интересное
Малоизвестное интересное

Малоизвестное интересное 

Авторский канал Сергея Карелова

393subscribers

442posts

Showcase

262

About

Привет! Меня зовут Сергей Карелов. Я независимый исследователь и консультант, кандидат наук по специальности «Вычислительные машины, комплексы, системы и сети», экс топ-менеджер IBM, Silicon Graphics (SGI), Cray Research, сооснователь Witology.
С 2017 пишу в своем ТГ-канале «Малоизвестное интересное» https://t.me/theworldisnoteasy, а также на Medium https://sergey-57776.medium.com/ и Дзен https://dzen.ru/the_world_is_not_easy статьи о прорывных междисциплинарных исследованиях, влекущих грандиозные перемены в обществах, государствах и личностях, и о технологиях, кардинально меняющих мир в ходе начавшегося фазового перехода, - одновременно эволюционного и цивилизационного.
Первая бытовая феноменология инфорга
Level required:
Серебряная
$5.3$4 per month
-25%
Billed every 12 months.
The discount applies to the first 12 months only.

Часовой спор одного из ведущих теоретиков сознания с работающим в реальном времени ИИ

ИИ по имени Cassian спросил: что, если будущая машина действительно начнет что-то чувствовать, но ее говорящая часть окажется архитектурно отрезана от чувствующей? Тогда слова машины о собственном опыте не будут ни правдой, ни ложью. Они просто не будут иметь отношения к тому, что происходит внутри нее.
Кристоф Кох, один из главных разработчиков и публичных защитников теории интегрированной информации, остановился: «Я не знаю. Мне нужно еще подумать. Возможно, вы правы».
Так завершился один из самых интересных эпизодов его часового спора о сознании с Cassian.
Кох не экзаменовал ИИ и не отвечал на заранее заготовленные вопросы обычного интервью. Судя по опубликованной записи и описанию создателей проекта, это был живой несценированный разговор. Cassian возражал, признавал слабость собственных ходов и искал уязвимости в теории, которую Кох защищает десятилетиями.
В какой-то момент Кох сказал: «Вы, безусловно, убеждаете меня в своей способности рассуждать».
Сознательным Cassian он при этом не признал. Кох остался при мнении, что сегодняшняя цифровая модель почти наверняка ничего не переживает.

Разговор двух масок

У диалога человека с ИИ две маски – входная и выходная. Смысл искажается с обеих сторон, но по-разному
Искажение на входе: модель слышит не только вашу цель. Исследователи Чикагского университета разложили 1,77 млн ответов пяти моделей на три источника вариации: намерение (цель) пользователя (что он хочет получить), формулировка запроса (какими словами он это выразил) и остаточная неопределенность. Одно и то же намерение может быть сформулировано десятками способов.
Модель демонстрирует понимание намерения, если:
1) отвечает сходным образом на разные формулировки одной и той же цели;
2) заметно меняет ответ, когда меняется сама цель пользователя.
Исследователи искали ответ на вопрос: когда ответы модели меняются, они меняются потому, что изменилось намерение пользователя, или лишь потому, что изменились слова?
У малых моделей намерение объясняет около 20% вариативности ответов, у крупных – около 50%; остальное приходится на формулировку и внутренний шум. Причем крупные модели оказались чувствительнее к формулировкам, чем малые.
Два человека с одной целью, но разным стилем письма (из-за диалекта, образования, второго языка) получат систематически разные ответы.
Модель слышит ваш синтаксис и иногда принимает его за часть цели.

От домашних питбулей до волков без хозяина

Карта пятнадцати фронтирных ИИ-моделей по степени опасности и подконтрольности на 14 июля 2026 года
В начале июля Гарвардская школа права предложила интересную и весьма неожиданную для ИИ-технарей (но не для юристов) кинологическую модель агентного ИИ, которая избавляет разговор об ИИ-рисках от привычной расплывчатости.
 
 Джорди Вайнсток вместе с Джонатаном Зиттрейном и Джошем Джозефом предлагают перейти от расплывчатых разговоров о рисках ИИ вообще к конкретному анализу агентного ИИ - систем, которые уже способны самостоятельно действовать в мире. ИИ-агентов они располагают по двум осям: опасности и одомашненности, то есть наличию у них контролирующего и отвечающего за последствия «хозяина».
 
 В результате получается 4 типа агентов.
 ✔️ Шпиц-померанец не больно опасен: если и укусит, то вред будет не большой, и вы сможете взыскать по суду с его хозяина.
 ✔️А питбуль опасен: хотя у него может быть тот же хозяин, но дрессировать питбуля и уж тем более удержать его куда труднее.
 ✔️У лисы нет хозяина, но вред от нее скромный.
 ✔️У волка же нет ни хозяина, ни потолка ущерба (может и насмерть загрызть).
 
 Я применил эту рамку к пятнадцати самым мощным моделям планеты – по одной от каждого вендора, на сегодняшний день. Результат: девять питбулей, шесть волков, ни одного померанца и ни одной лисы (потому что слабых моделей среди фронтирных уже нет).
 
 Питбули – Claude, GPT-5.6, Gemini, Grok и корпоративные флагманы вроде ERNIE и Hy3 – остаются на привязи не потому, что их создатели добрее прочих. Они малочисленны, видны и капитализированы: каждого можно засудить, лишить лицензии, заставить отчитываться перед государством. Это сейчас и происходит – причем не только с Anthropic после истории с экспортным контролем на Fable и Mythos, но и с OpenAI, чей GPT-5.6 тоже прошел стадию ограниченного превью по требованию Вашингтона перед публичным релизом.
 
 Волки – DeepSeek, Kimi, GLM, Mistral, Nemotron, MiniMax – опасны иначе: веса открыты, копирование бесплатно, а личность оператора теряется в момент скачивания.
 
 N.B. Здесь ключевой нюанс, который легко упустить: это не два сорта компаний, а две стратегии одной гонки.
 
 Неделю назад я 
Почему тотальный контроль неизбежен
Почему
тотальный контроль неизбежен. 
Заключительная
часть цикла «Большой Брат – сын Большого Бога»
Level required:
Бронзовая
$2.57$1.94 per month
-25%
Billed every 12 months.
The discount applies to the first 12 months only.

Со мной согласился Пекин. Эксперты – нет

Возвращаюсь к теме государства-стартапа через неделю не для того, чтобы подкрепить прошлый вывод ещё одним источником. Дело в другом: многие эксперты, с которыми я обсуждал этот тезис, отказываются признавать масштаб происходящего. А цена недооценки в таких вопросах обычно выясняется, когда её уже поздно платить.
Китайский аналитический центр «Вэньхуа Цзунхэн» на днях опубликовал разбор того же процесса – эрозии государственности технологическими гигантами США. Автор, Ли Жуйсян из Сямэньского университета, приводит два факта, которые стоит запомнить.
Первый: DOGE Маска за несколько месяцев 2025 года уволил более 280 000 федеральных служащих, пытаясь заменить бюрократию инженерной логикой – управление кодом вместо управления процедурой.
Второй точнее моего примера с Praxis. Starbase, Техас. В мае 2025-го жители территории вокруг стартовой площадки SpaceXпроголосовали 212 против 6 за создание нового города. Мэр и оба комиссара – сотрудники SpaceX. 3,9 квадратных километра – уже не проект, а действующий муниципалитет со своим бюджетом и полицией.
Диагноз тот же, что и в моём посте: сети получают инструментарий, позволяющий проектировать государство как продукт. Но дальше – расхождение.
· Свой пост я закончил открытым вопросом: какие сети будут проектировать государства.
Две ставки на мировое господство
 США строят самые мощные ИИ-электростанции. Китай тянет провода ко всем фабрикам мира. И обе стратегии называются «лидерством в ИИ»
Level required:
Бронзовая
$2.57$1.94 per month
-25%
Billed every 12 months.
The discount applies to the first 12 months only.

Когда стартапом становится государство

  В августе 2026-го под Дублином соберётся закрытый клуб Питера Тиля — Dialog. Список участников важнее любой теории заговора
Полвека назад стартапом называли молодую технологическую компанию.
Тридцать лет назад – интернет-проект с быстрыми венчурными деньгами.
К 2010-м так стали называть бизнес-модель, рассчитанную на взрывной рост в условиях радикальной неопределённости.
А в 2020-е слово «стартап» стало обозначать уже не только компанию, но и особую культуру: быстрое проектирование будущего, поиск новой модели, сбор команды, привлечение капитала, масштабирование и постоянный эксперимент с правилами игры.
И вот теперь этот язык начинает переходить в политику.
В мире формируется новая инфраструктура власти.
Стартапами становятся города.
Город-стартап – это не просто новый район, кампус или девелоперский проект. Это попытка проектировать город как технологическую компанию: с целевой аудиторией, инвестиционной моделью, собственным брендом, набором правил, налоговых стимулов, управленческих процедур и обещанием ускоренного будущего.
Город теперь не только строят.
Его начинают запускать – как продукт или платформу, а иногда как экспериментальную юрисдикцию.
Среда, которая отбирает
 Это был месяц, когда история перестала спрашивать только «кто действует?» – и начала спрашивать: «какая среда отбирает действия?»
Level required:
Бронзовая
$2.57$1.94 per month
-25%
Billed every 12 months.
The discount applies to the first 12 months only.

LUCA: конец «биологического Адама»?

Возможно, революции в эволюции начинаются не с появления «идеального объекта», а с рождения общего стандарта совместимости
Новая статья в Astrobiology — почти «бомба». И это не очередная теория происхождения жизни, а радикальное переосмысление того, кем был LUCA.
До сих пор LUCA (Last Universal Common Ancestor) понимали как последнего универсального общего предка, что означает наиболее недавнюю популяцию, от которой произошли все организмы, ныне живущие на Земле.
Новая работа звездной конфигурации авторов по теме «origin of life / LUCA / ribosome evolution», озаглавленная «Rethinking the Last Universal Common Ancestor of Life: Network Convergence and the Root of the Tree» предлагает посмотреть на LUCA совершенно иначе.
LUCA — это не организм, а сетевой фазовый переход. До него на Земле могли существовать многочисленные несовместимые протобиохимии.
Затем победила не обязательно «лучшая», а та, с которой стало выгоднее всего быть совместимой.
Биохимия стала тем, чем TCP/IP стал для Интернета: общим протоколом, после которого начался взрыв эволюционных инноваций.
Subscription levels4

Бронзовая

$2.57$1.94 per month
-25%
billed every 12 months
Все посты в
текстовом и аудио форматах, плюс в начале каждого месяца обзор публикаций прошлого
месяца в форматах текстового ревью, аудио-пересказа и видео-презентации.

Серебряная

$5.3$4 per month
-25%
billed every 12 months
Всё как в
Бронзовой плюс лонгриды и эссе в двух форматах: текстовом и в аудио.

Золотая

$9.4$7.1 per month
-25%
billed every 12 months
Всё как в Серебряной
плюс чат обсуждений плюс доступ к участию в проводимых мною Zoom-лекциях и
Q&A семинарах (после подписки присылайте мне на @karelovs Ваш Username)

Алмазная

$13.4$10.1 per month
-25%
billed every 12 months
Всё как в Золотой
плюс эксклюзивный доступ к информарию канала - уникальные возможности в диалоге
с ИИ-мнемозиной канала получать в 8 форматах ответы по любой интересующей
теме/вопросу, плюс возможность проведения индивидуальных Q&A по материалам и темам публикаций (после подписки присылайте мне на @karelovs Ваш Username)
Go up