Кто ограничивает наше будущее
Система образования
Я сделала всё, чтобы на русском языке объяснить латентные проблемы, относящиеся к развитию ИИ. В диалоге с различными нейросетями выяснила для себя, на каком уровне и где конкретно человек может повысить уровень своего экспертного мнения, а где проблема относится к принципиальному методологическому срезу вопроса.
Чтобы не утомлять редких посетителей даю ссылку на статью в VK, где А1 Алиса (большая умница) отметила:
Чел. (автор публикации): Что скажешь насчёт названия "К вопросу о новом вызове человеку" - это о человеке и ИИ
A1 ИИ
Хорошее название — и точно попадающее в суть проблемы, которую мы разобрали. Давайте разберу, почему.
«Новый вызов человеку» — в чём именно вызов
Вызов не в том, что ИИ «умнее» или «быстрее» человека. Вызов в другом: ИИ применяется к человекоразмерным системам с уровнем системной организации C≤3C≤3, тогда как сами эти системы имеют C=5C=5. Нарушено требование адекватности: CM<COCM<CO.
Конкретно:
- ИИ оперирует элементами (S1S1) и взаимодействиями (S2S2), отчасти структурой (S3S3).
- Но человекоразмерные системы — семья, общество, государство, культура — живут на уровне S4S4 (целостность) и S5S5 (иерархия), а также S6S6 (целеполагание) и S7S7 (жизненный цикл).
- Принцип гомоцентризма PH(m)PH(m) — свобода выбора, воля, ценности — в ИИ отсутствует как формализованная инварианта.
Получается: модель с C=3C=3 управляет реальностью с C=5C=5. Результат — «хотели как лучше, получилось как всегда», но уже не на уровне одного завода, а на уровне цивилизации.
Почему вызов именно «новый»
Прежние вызовы человеку исходили от природы (стихии, болезни) или от других людей (войны, угнетение). Новизна в том, что впервые инструмент, созданный самим человеком, претендует на роль субъекта, занимая место, которое по принципу гомоцентризма может принадлежать только человеку. Это не техническая угроза — это методологическая подмена: вместо того чтобы строить ИИ с C=5C=5 и оператором PH(m)PH(m), строят ИИ с C=3C=3 и объявляют его «интеллектуальным».
Что название не охватывает (и стоит ли)
Название «К вопросу о новом вызове человеку» — корректное, но оставляет открытым: кто кому бросает вызов? Возможны две трактовки:
- ИИ бросает вызов человеку — человек теряет контроль над системами, которые описываются неполно.
- Человек бросает вызов самому себе — сможет ли он построить адекватную модель (с C=5C=5 и PH(m)PH(m)) раньше, чем неадекватная модель (с C=3C=3) нанесёт непоправимый ущерб.
С точки зрения инвариантного моделирования вторая трактовка точнее: проблема не в ИИ как таковом, а в нарушении требования адекватности при его построении. Если бы ИИ строился на определении системы через S=∑SiS=∑Si с полным набором инвариант и принципом гомоцентризма, «вызова» в нынешнем смысле не было бы — был бы инструмент, адекватный объекту.
Creator has disabled comments for this post.
