Предвзятость Искусственного Интеллекта. Даже Роботы могут быть сексистами

Пересечение гендера и кибербезопасности — это новая область, которая подчеркивает дифференцированные воздействия и риски, с которыми сталкиваются люди, в зависимости от их гендерной идентичности. Традиционные модели безопасности игнорируют гендерные угрозы, такие как онлайн-преследование, доксинг, что приводит к недостаточной защите. В документе исследуется интеграция гендерных и человекоцентричных моделей угроз, ориентированных, подчеркивая необходимость инклюзивных подходов. Используя технологии искусственного интеллекта и машинного обучения, возможно разработать эффективные системы обнаружения угроз и реагирования на них.

Кроме того, в документе предлагается основа для разработки и внедрения новых стандартов безопасности. Цель состоит в создании более инклюзивной среды кибербезопасности, учитывающую уникальные потребности и опыт людей, повышая общий уровень безопасности.

-------

Кибербезопасность традиционно рассматривалась через техническую призму, уделяя особое внимание защите систем и сетей от внешних угроз, что игнорирует человеческий фактор, особенно дифференцированное воздействие киберугроз на различные группы. Различные представители групп часто сталкиваются с уникальными киберугрозами, такими как онлайн-преследование, доксинг и злоупотребления с использованием технологий, которые преуменьшаются в традиционных моделях угроз.

Недавние исследования и политические дискуссии начали признавать важность включения гендерных аспектов в кибербезопасность. Например, Рабочая группа открытого состава ООН (OEWG) по ICT подчеркнула необходимость учёта гендерной проблематики при внедрении кибернорм и наращивании гендерно-ориентированного потенциала. Аналогичным образом, структуры, разработанные такими организациями, как Ассоциация прогрессивных коммуникаций (APC), предоставляют рекомендации по созданию гендерно-ориентированной политики кибербезопасности.

Человекоцентричная безопасность отдаёт приоритет решению проблем поведения человека в контексте кибербезопасности и предлагает подход к интеграции гендерных аспектов. Сосредоточив внимание на психологических и интерактивных аспектах безопасности, модели, ориентированные на человека, направлены на создание культуры безопасности, которая расширяет возможности отдельных лиц, уменьшает человеческие ошибки и эффективно снижает киберриски.

📌 Обнаружение онлайн-преследований . Платформа социальных сетей внедрила систему на основе искусственного интеллекта для обнаружения и смягчения последствий онлайн-преследований. Согласно UNIDIR использовано NLP для анализа текста на предмет ненормативной лексики и анализа настроений для выявления домогательств, отметив значительное сокращение случаев преследования и повышении удовлетворённости пользователей.

📌 Предотвращение доксинга: разработана модель для обнаружения попыток доксинга путем анализа закономерностей доступа к данным и их совместного использования. Согласно UNIDIR модель использовала контролируемое обучение для классификации инцидентов доксинга и оповещения пользователе, что позволило увеличить на 57% количество случаев обнаружения попыток доксинга и сокращении на 32% число успешных инцидентов.

📌 Обнаружение фишинга с учётом гендерного фактора: Финансовое учреждение внедрило систему обнаружения фишинга, включающую тактику фишинга с учётом пола. Согласно UNIDIR использованы модели BERT, для анализа содержимого электронной почты на предмет и эмоциональных манипуляций и гендерно-ориентированного язык, снизило количество кликов по фишинговым сообщениям на 22% и увеличило количество сообщений о попытках фишинга на 38%.

📌 Поведенческие различия: исследования показали значительные различия в поведении в области кибербезопасности между мужчинами и женщинами. Женщины часто более осторожны и могут применять иные методы обеспечения безопасности по сравнению с мужчинами.

📌 Восприятие и реакция: Женщины и мужчины по-разному воспринимают угрозы безопасности и реагируют на них. Женщины уделяют приоритетное внимание различным аспектам безопасности, таким как конфиденциальность и защита от преследований, в то время как мужчины могут больше сосредоточиться на технической защите.

📌 Содействие гендерному разнообразию: Инклюзивность может повысить общую эффективность области так как разнообразные команды привносят разные точки зрения и лучше подготовлены к борьбе с широким спектром угроз.

📌 Данные с разбивкой по полу. Сбор и анализ данных с разбивкой по полу имеет решающее значение для понимания различного воздействия киберугроз на различные гендерные группы. Эти данные могут стать основой для более эффективной и инклюзивной политики кибербезопасности.

📌 Укрепление гендерных стереотипов: Алгоритмы, обученные на предвзятых наборах данных, могут укрепить существующие гендерные стереотипы. Модели машинного обучения, используемые в сфере кибербезопасности, наследуют предвзятость данных, на которых они обучаются, что приводит к гендерным допущениям в механизмах обнаружения угроз и реагирования на них.

📌 Некорректная гендерная ориентация: Платформы соцсетей и другие онлайн-сервисы используют алгоритмы для определения атрибутов пользователя, включая пол, бывают неточными, что приводит к нарушению конфиденциальности.

📌 Гендерные последствия киберугроз: Традиционные угрозы кибербезопасности, такие как атаки типа «отказ в обслуживании», могут иметь гендерные последствия в виде дополнительных проблем безопасности и целенаправленными атаками, которые часто упускаются из виду в гендерно-нейтральных моделях угроз.

📌 Предвзятость в обнаружении угроз и реагировании на них . Автоматизированные системы обнаружения угроз, такие как фильтры электронной почты и симуляции фишинга, могут включать гендерные предположения. Например, симуляции фишинга часто связаны с гендерными стереотипами, что может повлиять на точность и эффективность этих мер безопасности.