Размышления математика, финансового аналитика, разработчика компьютерных программ Даниила Сачкова об искусственном интеллекте, ChatGPT, Sora и возможных негативных последствиях для образования детей: Почему Стив Джобс запрещал своим детям айфоны.

Полезно для информации, даже если возникает сильно негативная реакция)  

Очень серьезно пересекается и с прогностикой Института Будущего в Копенгагене и с нашими обзорами Будущего Труда с уже отчетливо наметившимся противостоянием "универсалов" и "гиперспециалистов" (Post-AI world и будущее Труда: сценарии 2035+).

Понятно, что любая технология - это обоюдоострый прибор, способный принести как пользу, так и вред. Знать особенности работы нейросетей - полезно, чтобы более трезво ощущать себя посреди всеобщего ИИ-хайпа.

Однако вижу во всем этом и другой аспект - и связан он с тем, что, думается, такие обсуждения заставят человечество перейти на новый уровень самопознания: пересмотреть свои устарелые представления о том, что такое "человек", откуда берутся в нем мысли, идеи, мотивация, что это не только черепная коробка и нейрохимия мозга, и что современное представление о "сознании" требует радикального переосмысления.

"Сейчас вышла новая модель видео от той же фирмы Open AI, которая называется Sora. Многих людей она потрясла реалистичностью изображений.

Я поизучал технологию, на которой она основана, и поразительный вывод, что она основана ровно на том же - математически - как и ChatGPT.

Это ещё раз подтверждает, что это не искусственный интеллект.

Почему? Интеллект - это что-то целостное. Это то, что может понимать суть какого-то феномена или объекта. Это то, что анализирует, но, тем не менее и синтезирует - то есть смотрит целостно. Иначе ни про какой интеллект говорить нельзя. 

Так вот, целостность восприятия человека, чтобы вам кто не говорил, это совершенно противоположный процесс - не похожий на то, что использует ChatGPT и Sora. Почему.

Человек может целостно смотреть на проблему. ChatGPT и Sora не могут этого делать по причине совершенно запредельной вычислительной стоимости. Поэтому они все основаны на модели, которая называется Transformers, "трансформеры" так называемые. Эти трансформеры были изобретены в Гугле, смысл их в том, чтобы все эти процессы - то, что это называется "искусственный интеллект" - это просто маркетинговый термин - работали на параллелизацию процессов. Они делают параллельные вычисления.

Если взять видео Sora, обратите внимание, если видео имеет один объект, оно выглядит потрясающе. Как только там несколько объектов, а, особенно, несколько людей - эти новые модели дипфейков людей особенно не любят  - в общем, если там два-три человека, - все: люди начинают откуда ни возьмись пропадать, перспектива неправильная. Почему? Потому что они все вычисляют параллельно. Они берут текст и работают по словам, по токенам. Картину они разбивают на т.н. участки - patches, и они параллельно вычисляют очень много участков. Это в корне отличается от того, как мыслит человек.

Вот как вы смотрите на картинку. Вы же не смотрите, ага, в правом левом углу оно такое, а здесь такое, и все это параллельно вычисляете. А компьютеры только так могут работать, - они не могут работать как человеческий разум. 

Если человек образован, он не будет писать текст, как chatGPT. Как пишет нейросеть? Она моргает-моргает - слово, потом следующее. Всегда генерируется только следующее слово. Никогда не охватывается текст целиком. В параллелизации оно работает именно так. То же самое с видео.

И второй принцип, кроме параллелизации - это "принцип компрессии" для того, чтобы успешно имитировать реальность. Они обязаны - иначе просто не сработает - взять этот сложный мир, и компресссировать его. Математики знают - это анализ основных компонентов, когда берется сложный мир и схлопывается 90% этой сложности в очень маленькую коробочку. "Да, мы потеряли 10% чего-то там, но 90%-то мы же сохранили, - мы можем с этим работать". И оно выглядит правдоподобно до какой-то степени. Пока вы не поймете, что в этих 10%, которые убираются, когда они компрессируют, и заложена красота мира. Красота мира заложена в деталях.

Поэтому, когда вы смотрите на эти текста и видео, вы нутром чувствуете, что что-то здесь не так, чего-то не хватает. Оно все такое гладкое - прямое и не имеет ощущения реальности.

Это все вроде как теоретические рассуждения - "какое нам дело, как они компрессируют?". У этого всего есть очень практический вывод.

Если эти алгоритмы используются, чтобы обучать ваших детей, то это значит, что их учат примитивной, скомпрессированной версии мира. Вы получите на выходе детей, которые не могут в реальном мире ничего, кроме узких задач, которые им ставятся. Чтобы мир принял т.н. "искусственный интеллект" в повседневной жизни, нужно мир сначала упростить. И главная цель - дети и молодежь, которые на уровне удовольствия и мышления в этом пластмассовом плоском "параллелизованном" и "скомпрессированном" мире будут чувствовать себя как дома"...

Еще: 

Что стоит знать об Искусственном Интеллекте.