LLM в бизнесе: от тайного ордена к фабрикам мини-гномов (взгляд исследователя)
Лекция Артема Бондаря, руководителя NLP-отдела в AI-центре T-Банка, проливает свет на практическое применение больших языковых моделей (LLM) в бизнес-среде, предоставляя ценные инсайты для исследователей в области социальных наук. Вместо футуристических пророчеств, Бондарь предлагает прагматичный взгляд на текущее состояние LLM, фокусируясь на реальных кейсах, ограничениях и стратегиях эффективного использования.
Примеры использования LLM в T-Банке демонстрируют широкий спектр применения, подчеркивая потенциал LLM для автоматизации рутинных задач и ускорения процессов принятия решений. Однако, лектор честно признает ограничения технологии: "галлюцинации," зависимость от промтов и не всегда оправданное превосходство над традиционным поиском в Google.
"Фабрики мини-гномов" как ключ к эффективности
Бондарь предлагает интересную концепцию декомпозиции задач для LLM. Разбивая сложные задачи на более простые подзадачи, мы повышаем точность и эффективность моделей. Этот подход перекликается с исследованиями в области когнитивной психологии о пределах рабочей памяти и эффективности разбиения информации на "chunks".
LLM – не человек, а инструмент
Важным аспектом, поднятым в лекции, является необходимость изменить восприятие LLM. Интерфейс, имитирующий человеческое общение, может создавать ложные ожидания. Необходимо учиться работать с LLM как с инструментом, понимая его сильные и слабые стороны.
Фокус на дообучении
T-Банк выбрал стратегию дообучения существующих моделей вместо создания собственной LLM. Этот подход представляет интерес для исследователей, изучающих экономическую эффективность и практическую применимость различных стратегий внедрения AI. Успех "балабанки" T-Банка подтверждает потенциал дообучения для достижения конкурентных преимуществ.
Лекция Артема Бондаря — это ценный вклад в понимание практического применения LLM в бизнесе. Она предоставляет пищу для размышлений не только для практиков, но и для исследователей в области социальных наук, открывая новые направления для изучения влияния LLM на общество и экономику.