HumanLayer: human-in-the-loop for AI agents

Xочу начать новую рубрику: обозревать интересные стартапы из Y Combinator

Уже много лет я наблюдаю за миром стартапов. Сегодня начну рассказывать о необычных и интересных проектах, которые проходят в YCombinator.

Если вы не знаете, что такое YCombinator, то это один из самых известных стартап-акселераторов в мире. Они помогают фаундерам построить успешные компании. Оттуда вышли такие гиганты, как Airbnb, Dropbox и Stripe.

Первый стартап, о котором хочу рассказать, — это HumanLayer.

Что делает HumanLayer?

HumanLayer - это API и SDK, позволяющие ИИ-агентам обращаться к людям за помощью и отзывами.

Например, один из клиентов использует HumanLayer, чтобы SDR-агент связывался с менеджерами в slack для проверки / пересмотра составленных агентом писем перед их отправкой потенциальным клиентам.

Если не знаете, кто такой SDR:

SDR — sales development representative, специалист, который ищет клиентов через холодные звонки и письма. Он общается с клиентами на первом этапе и до момента, когда возможный клиент готов встретиться. Тогда сдр передает контакт менеджеру, который будет вести клиента к заключению договора.

Как использовать HumanLayer?

HumanLayer написали библиотеки для Python и Typescript и поддерживает почти любые LLM и позволяет связываться с людьми через slack, sms, электронную почту и другие каналы.

Если коротко, то взаимодействие выглядит так:

1. LLM генерит какой-то текст

2. Вызывается функция HumanLayer -> перекидывается на человека в Slack, по почте и тп

3. Человек может просто сказать все ок или попросить переделать что-то конкретное

4. Если все ок, то завершается вызов функции и ваш flow работы с LLM продолжается

Презентация от фаундера

О фаундере

Стартап основал Dexter Horthy, раньше был инженером и позже продактом в Replicated (container orchestration)

Почему фаундер решил начать делать HumanLayer?

До HumanLayer я занимался созданием автономных агентов ИИ. Наша идея MVP заключалась в создании агента, который координировал бы свои действия с людьми в Slack и мог выполнять базовую очистку, например, удалять все таблицы из Snowflake, к которым не было запросов в течение 90+ дней.

Они создали платформу для генерации SQL запросов, но хотели расширить границы агента, чтобы он фактически мог выполнять работу, а не просто генерировать рекомендации по запросам.

После этого Dexter понял, что самые полезные функции, которыми может наделить любое программное обеспечение, являются и самыми рискованными - нужно размерешие человека на ответ LLM.

И это особенно верно для LLM (На один запрос может быть несколько разных ответов), поэтому фаундер начал работать над HumanLayer, чтобы дать командам возможность безопасно создавать агентов и запускать их в работу в фоновом режиме.

Бизнес модель

HumanLayer - типичный SaaS (сервис по подписке). Есть бесплатный тариф: 200 запросов / месяц, далее $20 за 200 запросов (почему не за 100 или за 1 запрос ценник - вопрос интересный).

На тарифе повыше предлагают убрать брендинг. Откуда не понятно, если их тул помешивает рекламу прямо в ответ LLM, то звучит мега плохо. Ну и по классике отдельно для энтерпрайза - без цены

Мой взгляд на это

На мой взгляд идея HumanLayer актуальна, все больше работа с агентами будет перетекать из чатов в автономные инструменты, но тогда возрастает риск, что LLM выдаст какую-то жесть. Тут как стартап и придет на помощь! Дополнительный фидбек от человека решит проблему)

Ссылки на лендос, YCombinator

- humanlayer.dev

- анонс на YCombinator