Малоизвестное интересное 

Это следует из закрытых данных Anthropic, изученных независимыми экспертами METR
 

И вот спустя неделю мы получили первые результаты независимой диагностики движения к этому рубежу.

Почему главная научная революция XXI века может оказаться совсем не той, о которой сегодня говорят
 

Главная тема мировых медиа сегодня - искусственный интеллект. И вполне заслуженно. Ведь наступление эпохи ИИ - это не очередная технологическая революция. Это появление на Земле принципиально нового источника множества будущих революций. Источника, которого никогда прежде не существовало: синтеллекта - союза двух разных и взаимодополняющих типов разума, человеческого и искусственного.
 Впервые в истории мы получаем возможность не просто создавать все более мощные технологии, а многократно ускорять само производство научных открытий и технологических прорывов. Возможно, впереди эпоха, когда революции станут почти непрерывными.
 
 Казалось бы, куда уж грандиознее?

Но на горизонте вырисовывается нечто еще более масштабное.
Метареволюция. Переворот не в технологиях, а в самих основах нашего понимания мира.

Его предвестниками могут оказаться две научные программы, пока малоизвестные за пределами профессиональных кругов.
Майкл Левин исследует, как коллективы клеток без всякого мозга способны ставить и достигать цели, хранить память о желаемом будущем и решать задачи, которые мы привыкли считать исключительно когнитивными.
Йоша Бах предлагает еще более дерзкую гипотезу: сознание может быть относительно простым вычислительным механизмом, посредством которого самоорганизующаяся система создает собственный мир и переживающего его субъекта.
 
 Один показывает, как биологическая материя приобретает целенаправленность. Другой пытается объяснить, как определенная организация информационных процессов может породить субъективный опыт.
 Обе программы еще далеки от окончательного подтверждения. Особенно гипотеза машинного сознания Баха. Но если их главные идеи выдержат проверку, последствия могут оказаться колоссальными.

Новое исследование обнаружило парадокс: машины успешнее комбинируют идеи, но склонны изобретать похожее. Люди, уступающие им в креативности, исследуют другие области смыслового пространства. Возможно, именно здесь скрыт секрет синтеллекта
 

— Стив Джобс

В октябре вышла новая 6-я версия 

Знающие заговорили, говорящие не услышали
 

Два года назад я начинал выступления на тему «Вызовы и риски переформатирования мира и человека в цифру» со слайда с цитатой из «Трактата о Пути и Благой Силе» Лао-цзы: «Знающий не говорит, говорящий не знает». Те, кто имел полный доступ к происходящему на фронтире ИИ (руководители и ведущие специалисты компаний – разработчиков самых продвинутых моделей), тогда в основном отмалчивались или ограничивались туманными прогнозами. А публичное поле заполняли мнения людей, далеких от фронтирных лабораторий и не знакомых с информацией из закрытых источников.

В науке десятилетиями существовал почти священный институт - peer review, экспертная оценка научных работ. От рецензентов зависит, какие ошибки будут исправлены, какие результаты получат признание и какие идеи смогут пробиться на страницы престижных журналов.

И вот исследователи Гарварда Гэри Кинг и Стивен Уортингтон устроили эксперимент, результаты которого выглядят полным разгромом «кожаных мешков».

Причём людям создали практически идеальные условия.

124 научные рукописи. 134 рецензии высококвалифицированных экспертов. Рецензентов тщательно отбирали, хорошо оплачивали их труд и мотивировали писать максимально содержательные заключения. 88% опрошенных авторов оценили полученные рецензии как хорошие или очень хорошие.

Против этих экспертов выставили Claude Opus 4.8.

Результат оказался почти невероятным.

В опубликованном 6 октября эссе редактор журнала Works in Progress Сэмюэл Хьюз предлагает неожиданную разгадку.

Элитные школы воспитывали не столько специалистов, сколько членов единого сообщества. Университеты закрепляли дружбу и общую культуру. Клубы, званые обеды и ночные балы создавали плотнейшую сеть личных связей, доверия, взаимных обязательств и негласных договоренностей.

Великой империей управляло сообщество людей, для которых личная жизнь и политическая работа были почти неразделимы.

Эти три метафоры прозвучали из уст трех супер-известных фигур - Джеффри Хинтона, Юваля Харари и Демиса Хассабиса. Но вот ведь какая странность: 
во всех трех человек перестает быть бесспорным хозяином положения.

Ведь у любого предупредительного выстрела должен быть его сделавший стрелок. 
Так кто же это стреляет?

19 октября на фестивале Starmus Хинтон сказал: наступит время, когда люди не смогут понять некоторые утверждения ИИ - так же, как крысы не понимают, что такое простые числа. Почти одновременно Харари в интервью Чешскому телевидению назвал нас «коровами будущего»: ИИ может создать финансовые и правовые системы, управляющие нашей жизнью, но недоступные нашему пониманию. Возможный итог он назвал «коллективной деменцией».

А 14 октября в Дублине Хассабис описал взломы, совершенные ИИ-агентами, как «ранние предупредительные выстрелы». Сегодняшние инциденты еще сравнительно невелики, предупредил он, но более серьезные могут быть впереди.

20 октября Дэйв Кастен из Palisade Research возразил против самой метафоры: «Это не предупредительный выстрел, если есть жертвы». Его собеседница Дара Линд напомнила правило обращения с оружием: не направлять ствол на то, что не собираешься уничтожить. И задала вопрос, который переворачивает всю конструкцию: «Кто стреляет?»

Возможно, мы только что приблизились к разгадке двух величайших тайн науки
 

Сегодня воскресенье, и я нарушаю свой обычный график публикаций. Причина - открытие, о котором не хочется ждать до понедельника, чтобы рассказать.

16 октября на bioRxiv опубликована работа нейробиологов из Беркли и Принстона во главе с Янисом Хессе и Дорис Цао. Ее результаты настолько неожиданны, что могут оказаться поворотными в изучении природы сознания.

И это не просто след второго изображения в нервной системе. Его представление настолько подробно, что исследователи смогли восстановить многие его черты по активности нейронов.

В эксперименте использовалась бинокулярная конкуренция: каждому глазу предъявляли свое изображение. У людей проверили, какое из них воспринимается сознательно, а у двух макак записывали активность сотен нейронов.

Выяснилось поразительное: одни и те же нейронные популяции быстро чередуют представления воспринимаемого и подавленного изображений. Характерное время одного состояния - около 60 миллисекунд. А сознательное восприятие при этом остается устойчивым.