Малоизвестное интересное

Зачем элите ум, если есть суперИИ?

Элиты эпохи суперИИ: неовикторианская аристократия, кентаврическая меритократия или власть постчеловеческого интеллекта?

Британские аристократы XIX века поздно вставали, мало работали, много пили, танцевали до рассвета и почти ничего не знали о науке и технологиях. Томас Арнольд, ведущий педагог викторианской Британии, признавался, что охотнее позволил бы сыну думать, будто Солнце вращается вокруг Земли, чем видеть естественные науки главным предметом в его уме. И при этом такие люди управляли крупнейшей империей своего времени.

Как им это удавалось?

В опубликованном 6 октября эссе редактор журнала Works in Progress Сэмюэл Хьюз предлагает неожиданную разгадку.

То, что выглядело праздностью, могло быть главным инструментом управления.

Элитные школы воспитывали не столько специалистов, сколько членов единого сообщества. Университеты закрепляли дружбу и общую культуру. Клубы, званые обеды и ночные балы создавали плотнейшую сеть личных связей, доверия, взаимных обязательств и негласных договоренностей.

Великой империей управляло сообщество людей, для которых личная жизнь и политическая работа были почти неразделимы.

аппм

прогноз

Oct 21 21:09

Кто стреляет?

За одну неделю октября нас сравнили с крысами и коровами. А действия ИИ-агентов назвали «предупредительными выстрелами»

Эти три метафоры прозвучали из уст трех супер-известных фигур - Джеффри Хинтона, Юваля Харари и Демиса Хассабиса. Но вот ведь какая странность:
во всех трех человек перестает быть бесспорным хозяином положения.

Ведь у любого предупредительного выстрела должен быть его сделавший стрелок.
Так кто же это стреляет?

19 октября на фестивале Starmus Хинтон сказал: наступит время, когда люди не смогут понять некоторые утверждения ИИ - так же, как крысы не понимают, что такое простые числа. Почти одновременно Харари в интервью Чешскому телевидению назвал нас «коровами будущего»: ИИ может создать финансовые и правовые системы, управляющие нашей жизнью, но недоступные нашему пониманию. Возможный итог он назвал «коллективной деменцией».

А 14 октября в Дублине Хассабис описал взломы, совершенные ИИ-агентами, как «ранние предупредительные выстрелы». Сегодняшние инциденты еще сравнительно невелики, предупредил он, но более серьезные могут быть впереди.

20 октября Дэйв Кастен из Palisade Research возразил против самой метафоры: «Это не предупредительный выстрел, если есть жертвы». Его собеседница Дара Линд напомнила правило обращения с оружием: не направлять ствол на то, что не собираешься уничтожить. И задала вопрос, который переворачивает всю конструкцию: «Кто стреляет?»

вызовы21века

humanaicoevolution

Oct 19 16:01

Коммутатор перцептивного Мультиверса

BREAKING DISCOVERY: возможно, разгадка тайны сознания скрывается в правилах допуска к реальности

Level required:

Серебряная

$5.1$3.9 per month

-25%

Billed every 12 months.

The discount applies to the first 12 months only.

разум

сознание

икжи

Oct 18 15:51

BREAKING DISCOVERY: «Коммутатор перцептивного Мультиверса»?

Возможно, мы только что приблизились к разгадке двух величайших тайн науки

Что такое сознание? И почему из множества возможных картин реальности мы переживаем только одну?

Сегодня воскресенье, и я нарушаю свой обычный график публикаций. Причина - открытие, о котором не хочется ждать до понедельника, чтобы рассказать.

16 октября на bioRxiv опубликована работа нейробиологов из Беркли и Принстона во главе с Янисом Хессе и Дорис Цао. Ее результаты настолько неожиданны, что могут оказаться поворотными в изучении природы сознания.

Представьте: вы смотрите на лицо человека. Видите только его. Но нейроны вашего мозга каждые несколько десятков миллисекунд переключаются между представлениями двух разных лиц - видимого вами и того, которого вы совершенно не осознаете.

И это не просто след второго изображения в нервной системе. Его представление настолько подробно, что исследователи смогли восстановить многие его черты по активности нейронов.

В эксперименте использовалась бинокулярная конкуренция: каждому глазу предъявляли свое изображение. У людей проверили, какое из них воспринимается сознательно, а у двух макак записывали активность сотен нейронов.

Выяснилось поразительное: одни и те же нейронные популяции быстро чередуют представления воспринимаемого и подавленного изображений. Характерное время одного состояния - около 60 миллисекунд. А сознательное восприятие при этом остается устойчивым.

икжи

разум

сознание

Oct 16 19:09

Бездна за дверью чёрного ящика ИИ оказалась прозрачной

Возможно, это один из важнейших дней в истории глубокого обучения. А может быть, и чего-то гораздо большего… Возможно, этот день запомнят, как один из важнейших в истории науки

Такими восторженными оценками встретили новую работу Ника Каммараты из Goodfire Дин Болл (OpenAI) и известный специалист и комментатор в ИИ-сообществе roon. Последний добавил, что работа словно перенесла его понимание нейросетей на пять лет вперёд.

Что же произошло?

За дверью в бездну обнаружилась новая загадка

В мае 2024 я рассказал, что «внутри черного ящика оказалась дверь в бездну». Речь шла о сенсационном открытии Anthropic: исследователи научились обнаруживать внутри «чёрного ящика» ИИ скрытые смысловые структуры, соответствующие понятиям, образам и сложным абстракциям.

А спустя полгода появились первые результаты исследований того, «что оказалось за дверью в бездну черного ящика ИИ». Мало того. Исследователи даже научились вмешиваться в работу искусственного разума. Например, усиление признака «Мост Золотые Ворота» превращало Claude в одержимого мостом собеседника, упоминавшего его по любому поводу.

Но оставалась фундаментальная загадка.

Отдельные нейроны могут реагировать на множество совершенно несвязанных вещей. Согласно влиятельной гипотезе superposition (суперпозиции), нейросеть упаковывает разные понятия в общие нейронные структуры. Чтобы распутать эту мешанину, исследователям пришлось создавать сложнейшие инструменты извлечения скрытых смысловых признаков.

гении

инойинтеллект

Oct 14 15:17

Людены уходят тихо

Имаджинавтов будет все меньше, а ИИ их не заменит: с ним люди станут воображать лучше… но одинаково

Этот лонгрид подводит итог 7-летней проработке мною темы имаджинавтов. А заодно и является моим подарком всем читателям на 10-летие канала.

Аудио-версия (35 мин) – не удивляйтесь произношению слова «лЮдены», а не «людЭны» (так называли сами Стругацкие)

Обсуждение (17 мин) – подробный разбор

Презентация (13 слайдов) – самый быстрый способ ухватить суть лонгрида

Видеоэксплейнер (9 мин) – наглядно и понятно

Кинообзор (6 мин) – вдохновенно (для знающих английский)

«Я закрываю глаза, чтобы видеть»
Приписывается Полю Гогену

В июне 2019 года я написал пост об исследовании директора Дартмутской лаборатории социальной нейробиологии Меган Мейер и ее коллег из Дартмута и Принстона «

креативность

воображение

имаджинавты

Oct 12 23:46

Воронка Андрея Карпаты: одна книга и четыре человечества

Монах-переписчик и неграмотный прихожанин в средневековой церкви смотрели на одну и ту же книгу. Для одного это был текст, для другого – священный предмет с красивыми узорами, и ни один из них не мог увидеть книгу глазами другого. Сегодня похожее расслоение проходит через все человечество, только книга теперь лежит в кармане у миллиардов.

Андрей Карпаты, сооснователь OpenAI, с мая 2026 года работающий в Anthropic, только что разложил это расслоение по ступеням воронки.

1) Около 6 млрд человек (~75%) с языковыми моделями почти не сталкивались.

2) Еще 1–2 млрд (~20%) изредка пользуются бесплатными чат-ботами как поисковиком получше или помощником в текстах и видят в них, по его словам, туповатых собеседников.

3) Около 20 млн (0,2%) – профессионалы в программировании и математике, у которых агенты по одному промпту делают проекты, раньше отнимавшие недели и месяцы.

4) И лишь около 5 тыс. человек внутри фронтирных лабораторий работают с системами, которые остальной мир видел лишь в превью.

Найдите на этой лестнице себя.

Большинство из читателей этого поста (включая тех, кто уверен в своем понимании современного состояния ИИ) стоит на 2-й ступени. А 3-я ступень появилась совсем недавно: сам Карпаты признается, что меньше года назад писал код вручную.

инфорги

Oct 10 17:58

Хотите увидеть, что сможет ИИ в 2027? Да пожалуйста!

Самая наглядная иллюстрация колоссального прогресса цифровых технологий

Бенчмарки, сравнительные характеристика и показатели производительности новых ИИ-моделей – это все для специалистов. Для неспециалистов нужны конкретные и понятные примеры, типа прогресса возможностей видео.

Вот три примера таких видео:

1) Декабрь 2023. Дипфейк с Трампом, Си, Макроном, Обамой и прочими, отплясывающими с пивасиком – иллюстрация двух топовых прогнозов на 2024 лучшего в мире отчета по ИИ State of AI Report. Весело, но убого.

2) Январь 2025. «Трейлер» всенародного хита «Ирония судьбы»,

превращенного в “The Irony of Fate” с отличным кастингом Голливудских звёзд, подменяющих актеров оригинала – иллюстрация прогресса возможностей ИИ-видео за год к отчету

генеративный ии

вызовы21века

Oct 08 14:29

Дом, который построил ИИ. Для себя

Вы спрашиваете, отнимет ли ИИ в будущем у людей работу? Посмотрите на настоящее: в США расходы на строительство домов для ИИ растут как на дрожжах, а на строительство домов для людей - падают

На графике - США. С декабря 2023-го по июль 2026-го годовой темп расходов на строительство центров обработки данных (ЦОД) вырос на $51 млрд, а на всё остальное частное строительство вместе взятое - снизился на $120 млрд.

Экономист Пол Кругман объясняет это вытеснением инвестиций: ИИ-бум создаёт огромный спрос на капитал, способствует повышению процентных ставок и делает кредит дороже для других проектов. Строительство ЦОД, по всей видимости, отвлекает средства и ресурсы от строительства жилых домов, офисных зданий, больниц и заводов - практически всего, что нужно людям, но не связано с ИИ.

Будущее ИИ уже конкурирует с человеческим настоящим за деньги и ресурсы. И разгромно выигрывает в этой конкуренции.

График: Стив Раттнер, данные U.S. Census Bureau / FRED.

#ИИ #Экономика

ии

экономика

Oct 06 17:29

Автономный самовоспроизводящийся дрон – носитель биооружия

Он существует. Вы видели его вчера

Вы подумали про рой, собранный в подвале по чертежам от ИИ? Но речь про комара Anopheles gambiae. Он работает без оператора, размножается сам и уносит сотни тысяч жизней в год. Эволюция собрала его без всякого сверхразума – и дальше начинается самое неприятное.

Это центральная мысль статьи Феликса Шуссата «Проблемы распространения». Вчера на нее указал Дин Болл – соавтор трамповского Плана действий США в области ИИ, а с 6 июля глава команды Strategic Futures в OpenAI.
Болл рассказал, как очень влиятельный человек из индустрии спросил его, при каких обстоятельствах мы окажемся в безвыходном положении, и назвал статью Шуссата тем самым сценарием, который тогда описал в ответ.

Шуссат свел аргументацию к одной фразе: то, что существующее сверхоружие неудобно создавать и применять, – везение, а не закон природы. Заставьте ИИ бросать кости десять триллионов раз, и однажды выпадет та самая комбинация: найдутся дешевые способы собрать зеркальные бактерии или василиска Лэнгфорда.

Отмахнуться тут легко: мол, это из разряда триллиона обезьян, печатающих «Войну и мир», или самолета, собравшегося сам собой на свалке после урагана.

Разница в том, что обезьяны и ураган перебирают варианты вслепую. ИИ ищет целенаправленно, и именно за это ему платят.

Насколько это фантастика?
Бомба, сброшенная на Хиросиму, выглядит априори неправдоподобно: возьмите два инертных куска металла (каждый по силам унести одному человеку) и сведите их вместе определенным образом.
Без понимания релятивизма, физики частиц и экспоненты в ветвящихся процессах мысль о городе, стертом двумя кусками металла, звучит как бред. Понимание пришло – и бред стал инженерной задачей.

Несколько лет медиа пугали аудиторию боевыми комарами из американских биолабораторий. Сегодня от этой истории остался лишь мем. Неприятная же часть в том, что Шуссат описывает путь, которым боевого комара можно было бы сделать всерьез, и путь этот проще, чем строить рой с нуля:

большиебоги

большойбрат