Сила трёх: MCP, Skills, CLI
Вчера на конференции, будучи уже немного под шафе на афтерпати, участвовал в дискуссии про нашу любимую троицу: MCP, Skills и CLI.
Было много сказано о том, что из чего появилось, что чего лучше, но я сам путался в показаниях, да и мои визави тоже, поэтому и мне захотелось привести в своей голове хронологию в порядок, что из чего происходит и так далее.
Обычные чатики (конец 2022 - начало 2023)
По мере развития языковых моделей, их популяризации и как следствия промтостроения сообщество пришло к идее что надо как-то лучшие практики промтов систематизировать и собирать awesome подроборочки и сайтики, появляются такие саркастические термины как промт-инженер, однако, шутки шутками, но постепенно мы перестали смеяться.
Из подборочек промтов впоследствии родилась идея "моделей-имитаторов" копирующих стиль речи тех или иных медийных персон, киномоделей малых и больших достоинств, игровых персонажей и так делее. Типа у нас сайтик не просто с промтами, а прям с готовыми персонажами, с которыми можно поболтать онлайн.
Ролевые модели (2023 год)
Этот большой пласт творчества и развлечений с чатиком привёл нас к ролям и агентам, описывающим подробное поведение моделей, но уже не для для развлекательных, а для прикладных задач. Например для создания "агенства" из моделей моделей которые синхронно или асинхронно, или в виде графа решали те или иные задачи, а так же всякие кривые и косые low-code системы яро выдающие себя за no-code системы.
Изначально проблему вызова внешних систем решали через регулярки и логиты, потом появились идеи использовать JSON, а из этого уже выросла идея Function Calling, далее FC (лето 2023), и впоследствии Structured Output, далее SO (2024), для описания тулов работы с внешними системами.
Одновременно с этим очень ярко подсветилась проблема малого максимального контекста, оказалось, что условные 4k-8k-16k токенов это норм для чатика, но совершенно недостаточно для решения более сложных задач и для работы с множеством тулов, да и модели не умели работать с несколькими тулами, но прогресс не стоят на месте.