ИИ – попаданец. А мы – аборигены своей телесности
Может ли ИИ обрести сознание, если у него нет собственной жизни, которую он боится потерять?
ИИ запросто объясняет, как обжигает кипяток, каким мучительным может быть голод и даже то, как ему страшно умирать. Но из этого никак не следует, что этому ИИ хотя бы раз было больно, голодно или страшно.
Это противоречие, утверждает философ Дэвид Вайнбергер в свежем эссе MIT Press Reader, проводит границу между интеллектом и сознанием. Машина может рассуждать, помнить и убедительно рассказывать о, якобы, своих эмоциях. Но у сегодняшних языковых моделей нет своего уязвимого тела, судьба которого зависела бы от происходящего в окружающем его мире.
Чтение этого эссе навеяло мне весьма неожиданную аналогию о попаданцах.
Помните таких героев популярного вот уже 30+ лет жанра фантастики? Некая сила забрасывает человека в чужую эпоху или иную реальность. Но и там у него остается главное преимущество: знания из прежнего мира. Он смотрит на новую жизнь как обладатель секретного справочника уровня Википедии. И действует сообразно своим знаниям, отсутствующим в новом для него мире.
Суть моей аналогии в том, что, на первый взгляд, мы все попаданцы в собственную жизнь. Никто не выбирал эпоху, страну, родителей, язык и тело, в которых ему предстоит оказаться и жить.
Подобное «попаданство» Мартин Хайдеггер в сборнике своих работ «Бытие и время» называл Geworfenheit – «заброшенностью».
Но есть в этой аналогии и существенная разница. У «заброшенных» в реальную жизнь попаданцев нет никакого «прежнего мира». Нет внешней точки наблюдения, откуда можно рассматривать свою жизнь как чужую компьютерную игру. Реальные люди всегда уже внутри нее.
Поэтому для нас мир не просто собрание объектов с известными свойствами, а мир неисчислимых и неопределимых заранее возможностей. Пустая банка из-под джема может стать стаканом, цветочным горшком или чем-то, чего мы еще не придумали.
Здесь рассуждение Вайнбергера перекликается с идеями Стюарта Кауффмана об аффордансах: возможности вещей неисчерпаемы и не могут быть заранее перечислены, поскольку возникают в отношениях действующих существ с меняющимся миром.
Но главное даже не в этих возможностях.
Для нас мир имеет значение, потому что происходящее в нем происходит с нами. Мы не только познаем его. Мы в нем нуждаемся, страдаем, любим, рискуем и умираем.
Тут-то и происходит самый неожиданный переворот.
Возможно, настоящий попаданец здесь как раз ИИ. У него есть гигантская энциклопедия человеческого опыта, но нет собственной прожитой истории голода, боли, любви и страха смерти. Он способен описывать человеческий мир изнутри, не имея собственного человеческого опыта.
А человек – не попаданец, а абориген собственной телесности. Мы настолько неотделимы от мира, в который нас забросили жизнь и судьба, что даже пытаясь взглянуть на него со стороны, мы неизбежно смотрим на него изнутри.
Но это еще не весь переворот. Следом возникает такой вопрос.
Ведь не исключено, что со временем ИИ получит не просто роборуки и камеры, а собственную непрерывную историю, потребности, уязвимость и возможность необратимо потерять свое существование. Останется ли он и тогда попаданцем? Или станет аборигеном какой-то совершенно иной формы жизни?
Я склоняюсь ко второму. И тогда нас может ожидать настоящий «Поворот винта», достойный Генри Джеймса.
Ведь не далек тот день, когда машина сможет сказать нам: «Мне не все равно, что со мной произойдет».
Но как мы узнаем, что за этими словами действительно появился тот, кому не все равно, а не тот, кто научился безупречно это изображать?
Ведь именно в этом и ужас «Странного леса»: у вопроса может быть вполне определенный ответ, но у нас не будет способа его узнать и тем более понять.
#Сознание #Аффорданс #ТёмныйЛесИнтеллекта
сознание
аффорданс
тёмныйлесинтеллекта
