Что стоит знать об Искусственном Интеллекте.
Один из очень немногих экспертов по Искусственному Интеллекту, кого рекомендую слушать для понимания будущего развития ИИ технологий - Игорь Ашманов.
Эту его беседу с доктором физ.-мат. наук Алексеем Савватеевым Игорь Ашманов и Алексей Савватеев, на мой взгляд, надо очень внимательно послушать всем, кто так или иначе соприкасается с темой внедрения ИИ.
В этом интервью для меня было много полезного, но вот одна наиболее выпуклая мысль в трех пунктах:
1. Не только ChatGPT можно натаскать на имитацию человеческой речи (развитие технологии), но и человека натаскать на то, чтобы не отличать текст, написанный человеком, от текста, сгенерированного "бредогенератором ChatGPT" (деградация человека). Думаю, это будет отдельной хорошо оплачиваемой профессией через какое-то время: отличать одно от другого.
2. «Читаю текст, сгенерированный еще в 1990-х - и не могу погрузиться. Невозможно читать. Пару раз сталкивался с ситуацией, когда синтезированный текст не просто трудно воспринимать, - когда читает машина, и я слышу речь, понимаю, что это русская речь, но не понимаю ни слова. Надо понимать, что когда мы общаемся, даже через экраны, всякое общение - это взаимный гипноз, устанавливается канал между человеком и человеком. И мы знаем, что на том конце есть человек. И когда ты читаешь бредятину, которую сгенерировал ИИ, во многих случаях мозг говорит: «Вы меня обманываете. На той стороне собеседника нет, я отказываюсь устанавливать канал, я не буду это понимать».
3. «Те, кто наивно думает, что они сейчас построят бизнес, где они будут просто кнопку нажимать, а им все генерировать, они настолько понижают качество коммуникации со своими потенциальными клиентами, что их потом выметет с рынка…».
И еще:
«Эти программы (ИИ) не имеют никакого отношения к человеческому мозгу, не имеют никакого сходства, - так же как автомобиль не перебирает ногами, а самолет не машет крыльями, как птица. Все рассказы, что внутри ИИ есть разум или хотя бы нейроны, или оно похоже на мозг - это маркетинговая ерунда. В нейронных сетях нет никаких нейронов - это просто матрицы вероятностных коэффициентов, прямоугольные матрицы чисел, которые пересчитываются при обучении и использовании. И все. А "нейроны" - это маркетинговое название, которое в конце 1980-х научный сотрудник применил, чтобы звучало лучше.
Здесь переплетаются две иллюзии. Первая - что человеческий мозг похож на компьютер. Эта компьютерная метафора никакого отношения к устройству мозга не имеет.
Эти метафоры существуют на протяжении всей истории человечества. Сначала это были метафоры жидкостей, которые в мозгу перемешиваются, создавая сангвиников, холериков и т.д. Потом были метафоры, похожие на клепсидру, на водяные часы. Потом, когда появились часы обычные, мозг стали представлять в виде набора колесиков. Потом была электрическая метафора. А когда появился компьютер, всем стало легко объяснять, что мозг человека - это же компьютер, потому что там есть долговременная, кратковременная память, процессор… Ничего этого в голове у человека нет, - у нас все устроено каким-то совершенно другим образом.
Из этой дурацкой метафоры возникает обратная метафора - такой карго культ. Что, раз мозг - это компьютер, надо его повторить, сделав железный и помощнее, и тогда у нас будет разум, сравнимый с человеческим. Нет, не будет. Это просто подтасовка, связанная с неверным применением этой метафоры к человеческому мозгу. Это двойная логическая порочная петля».
Каждая эпоха создает свои Метафоры, которые, думаю, на определенном этапе позволяют человечеству двигаться вперед, а потом, скорее всего, тормозят его дальнейшее развитие.
Вообще ограничения технологии начинают проявляться на ее пике: думается, мы приближаемся к вершине развития технологий искусственного интеллекта и, по мере приближения к кульминации, все более отчётливо будут проявляться запросы на следующий этап развития. Но не технологий ИИ, а человека.
Еще:
Краткое послесловие:
"Видите, как хлещет, значит, скоро пройдёт!", фильм "Июльский дождь", реж. Хуциев, 1966...
будущее искусственного интеллекта
chatgpt
контринтуитивное будущее
artificial intelligence