“Могу ли я доверять этим данным?”

В эпоху развития искусственного интеллекта (ИИ) этот вопрос становится все более актуальным как для отдельных лиц, так и для организаций. Достоверность и надежность данных является основой для принятия решений в data-driven организации. Недавний опрос, проведенный компанией Precisely, выявил, что принятие решений на основе данных является основной целью дата-программы для 77% респондентов. Однако, согласно исследованию, только 46% опрошенных высоко или очень высоко оценивают достоверность своих данных, которые поддерживают их решения.

В докладе Всемирного экономического форума (World Economic Forum) отмечается важность достоверности данных для реализации потенциала искусственного интеллекта. В то время как более 90% руководителей государственных и частных компаний считают, что искусственный интеллект необходим для решения проблемы изменения климата, 75% руководителей испытывают сомнения в надежности данных, которые используются в их важнейших дата-проектах.

Обеспечение успеха будущих data-driven инициатив зависит от достоверности данных. Доказательство надежности данных начинается с определения того, что такое надежность данных и как ее достичь.

Надежность данных означает, что данные являются точными, полными, непротиворечивыми и не содержат ошибок. Обеспечение надежности данных является важной частью усилий организации по обеспечению целостности данных, которые распространяются не только на сами данные, но и на инфраструктуру и процессы, связанные с данными:

- Физическая целостность регулирует процедуры безопасного хранения и извлечения данных из ИТ-систем. Она защищает от перебоев в работе и других внешних угроз надежности данных.

- Логическая целостность подтверждает, что данные имеют смысл в различных контекстах. Логика данных может быть нарушена из-за человеческой ошибки или недостатков в проектировании системы.  Логическая целостность имеет четыре аспекта:

-- Целостность домена относится к допустимому диапазону значений для  целых чисел, текстовых значений или значений типа дата.

-- Целостность сущностей предотвращает дублирование за счет применения первичных ключей, которые однозначно идентифицируют записи в таблице реляционной базы данных.

-- Ссылочная целостность реализует правила и процедуры, которые поддерживают согласованность между двумя таблицами базы данных.

-- Определяемая пользователем целостность пытается выявить ошибки, которые пропускают другие проверки целостности, применяя собственные внутренние правила и ограничения организации в отношении данных.

Достоверность данных является первым шагом к созданию надежных data-driven процессов для принятия решений. Неполные данные, неточности и искажения, вызванные отсутствием стандартизации форматов данных, запутанными определениями данных и ненадлежащими методами сбора данных, могут повлиять на качество принимаемых решений. Уверенность в надежности ваших данных позволяет лицам, принимающим решения, быстро реагировать на меняющиеся отраслевые и рыночные условия, своевременно получая необходимую им информацию.

Один из способов оценить важность достоверности данных – рассмотреть характеристики ненадежных данных.

- Неточные данные являются абсолютно неверными и могут ввести в заблуждение.

- Устаревшие данные больше не являются точными и также могут ввести в заблуждение.

- Неполные данные содержат недостающие значения или специфические атрибуты, например, данные о клиентах без контактной информации. - Дублирующиеся данные могут исказить результаты анализа и привести к потере ресурсов.

- Неконсистентные данные: в организации могут существовать противоречивые данные в разных формах и форматах.

- Нерелевантные данные не представляют ценности в контексте текущего анализа.

- Неструктурированным данным не хватает контекста, который позволил бы их точно проанализировать, например, так отличается обычный текст от текста, введённого в определенное поле базы данных.

- Несоответствующие требованиям данные создают проблемы для регулируемых отраслей, таких как здравоохранение и финансы, и могут привести к юридическим и финансовым санкциям.

И наоборот, достоверные данные могут значительно повысить качество бизнес-решений. Они способствуют повышению операционной эффективности компании, уровня удовлетворенности клиентов, точности управления финансами и соблюдению нормативных требований.

Кроме того, надежные данные обеспечивают более эффективный маркетинг, позволяют снизить эксплуатационные расходы, точнее прогнозировать результаты, расширить возможности масштабирования и интеграции данных, делая их более значимыми и полезными для организации.

Возможно, наиболее важным преимуществом, которое компании получают от повышения надежности данных, является доверие, которое они приобретают среди сотрудников, партнеров и клиентов. Если доверие является основой деловых отношений, то достоверность данных – это путь к установлению прочных, долгосрочных связей и позитивного взаимодействия с заинтересованными сторонами внутри компании и за ее пределами.

Первым шагом в измерении надежности данных является поиск наиболее подходящих метрик для каждого типа данных. Некоторые показатели надежности данных являются внутренними или независимыми от конкретного варианта использования, например, общее количество ошибок при кодировании в базе данных. Другие являются внешними, что означает, что они напрямую связаны с конкретной задачей или контекстом, например, со средним временем загрузки веб-страницы.

Внутренние показатели включают точность, полноту, непротиворечивость, актуальность данных, а также конфиденциальность и безопасность.

Внешние показатели включают релевантность, надежность, своевременность, удобство использования и валидность.

Повышение надежности данных вашей компании начинается с определения бизнес-критичных областей применения, таких, например, как прогнозирование продаж или разработка эффективных маркетинговых стратегий. Это позволяет сосредоточиться на данных, которые имеют наибольшее значение для всей организации и обеспечивают взаимопонимание между всеми заинтересованными сторонами. Также в этот список должны попасть предметные области и приложения, которые больше всего нуждаются в надежных данных для принятия обоснованных решений.

Внедряя передовые методы повышения надежности данных, организации получают преимущества во всем стеке управления данными: от источников данных и инструментов представления данных, до облачных хранилищ и инструментов преобразования. Вот несколько примеров best-practice:

- Придерживайтесь стандартов сбора данных. Это уменьшит разброс данных и обеспечит согласованность во всей компании.

- Обучите инженеров данных уделять особое внимание надежности. Предоставьте им инструменты и методы, которые снижают вероятность человеческих ошибок, и проинформируйте их о затратах, связанных с использованием недостоверных данных.

- Проводите регулярные аудиты. Аудит данных позволяет выявить ошибки и несоответствия в системах и углубиться в изучение причин проблем и определить меры по их устранению.

- Проверьте надежность ваших инструментов. Инструменты сбора данных включают опросы, анкетирование и измерительные инструменты. Помимо пилотного тестирования инструментов, вы должны контролировать процесс сбора данных на предмет полноты, точности и согласованности.

- Регулярно очищайте данные. Выявляйте и удаляйте любые отклонения в данных. Выявляйте пропущенные и несогласованные значения и применяйте стандартные методы для достижения полноты и согласованности данных.

- Создайте словарь данных. Словарь служит центральным хранилищем типов данных, взаимосвязей данных и значений данных. Он позволяет отслеживать источник данных, их формат и способы их использования. Он также является общим ресурсом и единой точкой правды для всех заинтересованных сторон.

- Убедитесь, что данные воспроизводимы. Тщательное документирование ваших методов сбора данных позволит вам и другим пользователям воспроизвести ваши результаты. Необходимо четко объяснить используемые методологии и точно отслеживать все версии данных.

- Внедряйте политики Data Governance. Убедитесь, что потребители данных в компании понимают ваши стандарты и процедуры, касающиеся контроля доступа к данным, внесения изменений и обновлений в данные.

- Сохраняйте резервные копии ваших данных и разрабатывайте процедуры их восстановления. Подготовьтесь к возможной потере важных данных, регулярно тестируя процессы их восстановления.

Большие перспективы генеративного искусственного интеллекта (GenAI) зависят от того, насколько компании и потребители смогут преодолеть свое недоверие к этой технологии. Надежность данных может противостоять изменчивости и неточностям, которые присущи системам машинного обучения с использованием больших языковых моделей (LLM). Применение принципов надежности данных к ИИ-моделированию позволяет устранить явную и неявную предвзятость к данным, созданным с помощью искусственного интеллекта.

Примерами принципов надежности данных, применяемых к инновациям GenAI, является объяснимый искусственный интеллект (XAI), который повышает прозрачность и понятность моделей, и облегчает сотрудничество между человеком и ИИ, сочетая в себе человеческую интуицию и вычислительную эффективность ИИ. Также в стадии разработки находятся этические основы искусственного интеллекта, которые стремятся к справедливости и равноправию в дополнение к точности и надежности.

Данные являются топливом, которое питает современный бизнес, но ценность этих данных стремительно снижается, поскольку потребители данных теряют веру в их достоверность. Лучший способ повысить отдачу от инвестиций вашей компании в данные – это внедрить инструменты и процессы, которые гарантируют и повышают ее ценность.

Список и описание характеристик качества данных можно посмотреть в статье DQ: Качество данных в банке.

Подробно про разработку метрик на основе Характеристик качества данных читайте в статье: Бизнес-требования к качеству данных.

Файл в формате электронных таблиц с разработанными метриками можно получить в посте Материал к статье. 

Original Article https://www.dataversity.net/what-is-data-reliability-and-why-do-you-need-it/