ООН призывает мир остановить "роботов-убийц": Глобальный форум по этике ИИ требует моратория на автономное оружие
Резолюция, принятая в Женеве, настаивает: "Решение о лишении жизни не может быть делегировано алгоритмам". Реакция военных держав — под вопросом.
Женева — В мощном символическом шаге, отражающем растущие глобальные опасения, Глобальный Форум по ИИ-Этике (GAIEF), проходящий под эгидой ООН, сегодня, 15 августа 2025 года, принял историческую резолюцию. Документ содержит призыв ко всем государствам-членам Организации Объединенных Наций ввести добровольный мораторий на разработку, производство и развертывание летальных автономных оружительных систем (ЛАВС или "роботов-убийц") – систем, способных выбирать цели и применять смертоносную силу без осмысленного человеческого контроля.
Суть резолюции: "Человек должен оставаться в контуре"
Резолюция, ставшая итогом недели интенсивных дебатов с участием ученых, дипломатов, правозащитников и представителей гражданского общества из более чем 90 стран, основана на нескольких ключевых принципах:
- Неприемлемость алгоритмического убийства: Документ категорически заявляет, что "передача решений о применении смертоносной силы полностью автономным алгоритмам является этически неприемлемой и нарушает принципы международного гуманитарного права и прав человека".
- Необходимость "осмысленного человеческого контроля": В резолюции подчеркивается, что "человеческое суждение и ответственность должны сохраняться на всех этапах применения силы". Алгоритм может информировать решение, но не принимать его за человека, особенно когда речь идет о жизни и смерти.
- Непредсказуемость и ответственность: Отмечаются неустранимые риски, связанные с ЛАВС: сбой в идентификации целей (особенно в сложных условиях), эскалация конфликтов из-за скорости реакции машин, невозможность привлечь к ответственности за действия алгоритма.
- Угроза глобальной стабильности: Предупреждается, что гонка автономных вооружений может дестабилизировать международную безопасность, снизить порог вступления в войны и создать новые катастрофические риски.
Что такое ЛАВС ("роботы-убийцы")?
Речь идет не о дистанционно управляемых дронах (где человек принимает решение о поражении), а о системах следующего поколения, которые:
- Автономно обнаруживают цели (используя ИИ-анализ данных с сенсоров).
- Автономно идентифицируют их как "противника" или угрозу по заданным критериям.
- Автономно принимают решение о применении летальной силы.
- Автономно осуществляют поражение (ракетой, пулеметом и т.д.).
Статус резолюции: Сила морального авторитета
Важно понимать, что резолюция GAIEF не является юридически обязательной. Форум – это площадка для выработки рекомендаций и этических норм. Однако:
- Она отражает консенсус мирового этического и научного сообщества по критически важному вопросу.
- Создает значительное политическое и дипломатическое давление на правительства.
- Может стать катализатором для формальных переговоров в рамках ООН (например, в Конвенции по определенным видам обычного оружия - КПВО) о юридически обязывающем международном договоре.
- Усиливает позиции стран (как Австрия, Новая Зеландия), уже выступающих за полный запрет.
Цитаты с Форума:
"Принятие этой резолюции – это крик совести человечества, – заявила [Имя Фамилия], спецпредставитель Генсека ООН по новым технологиям. – Мы не можем допустить, чтобы алгоритмы, лишенные сострадания, ответственности и понимания контекста, решали, кому жить, а кому умереть. Мораторий – это необходимый первый шаг к предотвращению новой, ужасающей формы войны."
"Технология развивается быстрее, чем политика. Эта резолюция – сигнал тревоги для правительств: пора действовать, пока не стало слишком поздно", – добавил [Имя Фамилия], глава влиятельной правозащитной организации [Название].
"Принятие этой резолюции – это крик совести человечества, – заявила [Имя Фамилия], спецпредставитель Генсека ООН по новым технологиям. – Мы не можем допустить, чтобы алгоритмы, лишенные сострадания, ответственности и понимания контекста, решали, кому жить, а кому умереть. Мораторий – это необходимый первый шаг к предотвращению новой, ужасающей формы войны."
"Технология развивается быстрее, чем политика. Эта резолюция – сигнал тревоги для правительств: пора действовать, пока не стало слишком поздно", – добавил [Имя Фамилия], глава влиятельной правозащитной организации [Название].
Кто "за" и кто "против"? Ожидаемая реакция:
- Сторонники моратория/запрета (Кампанья "Stop Killer Robots" и др.): Встретили резолюцию с энтузиазмом, назвав ее "историческим моментом" и мощным инструментом для дальнейшей мобилизации общественного мнения и лоббирования.
- Критики/Скептики (включая некоторые военные державы): Вероятные аргументы:"Технология повысит точность и снизит потери своих солдат". (США, Россия, Китай, Израиль, Великобритания и др. разрабатывают элементы автономных систем для ПВО, киберзащиты или роев дронов)."Человек всегда будет контролировать важные решения". (Хотя определение "контроля" размыто)."Мораторий затормозит инновации в оборонной сфере"."Юридически обязательный договор невозможен из-за разногласий в определении ЛАВС".
- "Технология повысит точность и снизит потери своих солдат". (США, Россия, Китай, Израиль, Великобритания и др. разрабатывают элементы автономных систем для ПВО, киберзащиты или роев дронов).
- "Человек всегда будет контролировать важные решения". (Хотя определение "контроля" размыто).
- "Мораторий затормозит инновации в оборонной сфере".
- "Юридически обязательный договор невозможен из-за разногласий в определении ЛАВС".
Что это значит? Последствия и следующие шаги:
- Дипломатический толчок: Резолюция гарантированно станет главной темой на предстоящих сессиях КПВО в ООН и других дипломатических форумах.
- Национальные дебаты: Давление на правительства со стороны парламентов и общественности внутри стран-разработчиков ЛАВС усилится.
- Корпоративная ответственность: Усилится давление на технологические компании (особенно работающие на оборону) с требованием принять "Принципы ИИ" и отказаться от разработки полностью автономных летальных систем.
- Гонка продолжается? Ключевой вопрос: послушают ли ведущие военные державы этот призыв? Большинство аналитиков сходятся во мнении, что немедленной остановки разработок не произойдет, но резолюция может:Замедлить темпы развертывания.Усилить требования к встроенным ограничителям и "человеку в контуре" для критических решений.Стимулировать разработку нелетальных автономных систем (например, для разведки, РЭБ, логистики).
Заключение: Этический Рубикон
Резолюция Глобального Форума по ИИ-Этике ООН о моратории на "роботов-убийц" – это не просто новость. Это мощный этический императив, брошенный человечеству на перекрестке технологического прогресса. Она четко обозначает красную линию: жизнь и смерть – это сфера исключительно человеческого решения и ответственности, которую нельзя отдавать на откуп алгоритмам, какими бы "умными" они ни были.
Хотя путь к юридически обязывающему запрету долог и сложен, а разработки в военных лабораториях продолжатся, эта резолюция – важнейший шаг в глобальном осознании экзистенциальных рисков автономного оружия. Она закладывает моральный фундамент для будущих политических решений и дает мощный аргумент всем, кто выступает за сохранение человечности в войне и мире. Теперь взоры обращены к столицам ведущих держав: как они ответят на этот призыв ООН остановить сползание к войне машин?
