Автомат направляет, а LLM объясняет: диалог с агентом за 3 рубля

Агент: …чем ты занимаешься по жизни, чтобы я мог подбирать примеры под твои задачи?

Человек: сушу булки а ты чем занимаешься?

Агент: О, это интересно! Сушка булок — звучит вкусно и наверняка со своими нюансами.

Человек: как нейросети мне могут помочь сушить булки? булки это кстати часть тела, а не то что ты подумал

Агент: Хах, отлично уточнил! А то я уже представлял хрустящую выпечку.

Агент подхватил шутку и повел человека по маршруту. Через шесть минут у человека был готовый промпт: нейросеть в роли фитнес-тренера и диетолога, план питания и тренировок таблицей на неделю, дефицит 300 ккал, без сложного инвентаря. Тут он спохватился: «а стой, а где результат промпта?» — и агент отправил его проверить промпт в той нейросети, которой он обычно пользуется. Весь разговор обошелся в три рубля.

Это был мой агент мини-курса «Как пользоваться нейросетями». Он разговаривает с теми, кто присматривается к дорогому продукту и пока не решается его оплатить. Такой человек уже понял, что ему что-то нужно, но еще не купил, — этот этап называют разрывом выбора (consideration gap). Покупают в итоге единицы. В онлайн-школах до вебинара доходят 15–20% зарегистрировавшихся, а платят 5–15% пришедших — от одного до трех человек из сотни. У продуктов с бесплатной версией в платную переходят 3–5%, у образовательных приложений — около 3%. Зато покупки дорогие: средний чек онлайн-школы — 10 тыс. рублей.

Поговорить с каждым мог бы LLM-агент: разобрать задачу человека, ответить на его вопросы, показать продукт в деле. Но тут две беды. Модель без присмотра выдумывает и отступает от инструкции. А диалог с каждым стоит денег: цену агента считают в токенах, и платить придется за все диалоги, а купят единицы. Так окупается ли LLM-агент, готовый поговорить с каждым?

Окупается. Диалог с моим агентом стоит от 2 до 5 рублей, в среднем 3,8, а одна покупка за 10 тысяч оплачивает тысячи диалогов. Дешево — потому что автомат решает, LLM отвечает: маршрут ведет код, а на ход приходится не больше двух вызовов недорогой модели. Человек при этом шутит, спорит, отходит от темы — и по ощущениям это разговор как с ChatGPT.

Агент наносит первую пользу до покупки

Польза до покупки — не обязательно готовый промпт. Дизайнер на вопрос о цели ответил коротко: «Я боюсь, что они меня заменят». Агент подобрал ему программу «Они не кусаются» и начал с того, что такое нейросеть:

Агент: Нейросеть — это как очень быстрый и начитанный стажёр, который пересмотрел миллионы примеров работы.

Человек: Стажёр умеет кофе подавать!

Агент: Ха, отлично! … нейросеть — не просто подавальщик, а исполнительный стажёр, который сделает сто макетов за час по твоему запросу. Вот только выбрать из этой сотни тот самый, который решит задачу живого человека, — это твоя работа.

Дальше агент держался образа. Промпт стал техзаданием для стажера: «чем точнее ты опишешь задачу, тем меньше правок потом». Галлюцинации — причиной, по которой результат без дизайнера остается лишь красивой картинкой. Через 15 минут дизайнер прошел всю программу, верно ответил на квиз и ушел с тем, за чем приходил: психотерапией нейросеть делает черновики, а выбирает и отвечает за результат он сам. Задачу же ей ставят как техзадание.

Такого агента я называю агентом активации. Его место — разрыв выбора: человек присматривается к продукту и пока не решается заплатить, а агент уже приносит ему пользу. Он учит пользоваться тем, что человек собирается купить, — например, на задаче самого человека.

Маршрут агента — анкета, программа, темы, предложение продукта. В анкете агент задает несколько вопросов — чем занимаешься и зачем тебе нейросети. По ответам он подбирает программу в графе знаний — траекторию, которая решит задачу пользователя и не перегрузит его. Граф собирает из материалов курса K2-18 (мой опенсорс-инструмент), о нем я писал в апреле: в графе основные понятия, учебные фрагменты, квизы и связи между ними. Контекст агент собирает по графу, поэтому отвечает строго по материалам курса и не выдумывает. Темы агент объясняет на примерах из жизни человека: у дизайнера это макеты, у человека с булками — план питания. Кнопки углубляют тему, свой вопрос можно задать в любой момент, а по ходу агент предлагает сам продукт.

Агент работает в Telegram и MAX — как чат и как мини-приложение, с голосовым вводом. Нажал «Дальше», написал «давай дальше» или сказал это вслух — результат один и тот же.

Маршрут и свободную реплику совмещает только гибрид

От агента нужны две вещи сразу. Он должен провести человека по маршруту и естественно ответить на любую реплику — на «сушу булки», на стажера с кофе, на промпт размером с «Войну и мир». Обычно эти требования тянут в разные стороны, и для каждого есть готовое решение.

Сценарный бот проходит маршрут шаг за шагом: кнопка — переход, следующая кнопка — следующий переход, и ни одного вызова модели, поэтому диалог почти ничего не стоит.

Чистая LLM понимает любую реплику и отвечает на нее естественно, а маршрут ей можно описать в промпте — и никакой схемы переходов. У каждого решения свой козырь, так зачем городить гибрид?

Сценарному боту мешают люди: они пишут текстом даже там, где есть кнопки. В логах банковского бота больше трети реплик люди набрали текстом. На кнопках бот почти не ошибался, а набранный текст не понимал в каждом четвертом случае.

У чистой LLM за маршрут отвечают только модель и промпт. Чтобы диалог без автомата оставался осмысленным, нужна сильная модель — это около 16 рублей за диалог вместо моих 3,8, вчетверо дороже. Одна покупка окупает уже не две с половиной тысячи диалогов, а около шестисот. К тому же свобода портит результат.

Гибрид берет у каждого его козырь: маршрут ведет автомат, LLM понимает реплики и пишет ответы. Автомат — это код, который знает, в каком состоянии диалог и какие переходы из него разрешены.

К такому же устройству пришли исследователи, платформы и практики:

• В эксперименте с мотивационным интервью LLM в рамках сценария обошла сценарного бота по эмпатии и вовлеченности.

• В Samsung Medical Center медсестры вслепую выбирали ответы автомата поверх LLM в 79% случаев.

• Rasa переводит реплику в команды, а бизнес-логику исполняет в детерминированных сценариях.

• В Dialogflow CX у Google языковая модель понимает намерение, а ход диалога задают детерминированные потоки.

• Автор статьи «Как приручить LLM» на Хабре сформулировал принцип короче всех: «граф ведет, модель исполняет».

Сколько стоит один ход?

Работу в агенте я разделил по формуле: автомат решает, LLM отвечает. Как это выглядит, видно по двум ходам дизайнера из разговора про стажера.

Сначала дизайнер нажал кнопку «Объясни проще». Тут автомату все известно: дизайнер на заданной теме, кнопка значит «объясни эту тему проще», после ответа он останется на месте. Нарратору — модели, которая пишет ответы, — остается рассказать об этом, взяв материал темы и то, что агент знает о дизайнере. Так получился стажер, который пересмотрел миллионы примеров работы. Один вызов модели с понятным контекстом.

Потом дизайнер написал: «Стажёр умеет кофе подавать!» Эту реплику автомату сначала нужно перевести на свой язык. Ее читает классификатор — модель, которой показывают реплику и короткий список того, что можно сделать на этом шаге: перейти дальше, углубить тему, прыгнуть к другой теме, ответить на вопрос не по теме, просто поговорить. Классификатор выбрал «поговорить». Автомат проверил, что такой переход здесь разрешен, и оставил дизайнера на месте. Нарратор ответил: «Ха, отлично!» — и вернул разговор к теме. Два вызова модели.

Так устроен каждый ход. Весь диалог укладывается в шесть состояний автомата: знакомство, обучение, финал, предложение, отказ и стоп. Позицию пользователя двигает только код: он выбирает следующий шаг, проверяет ответы на квизы и решает, когда показать предложение. Классификатор выбирает из того, что разрешает текущий шаг, нарратор складно вещает. Служебные ходы — старт, сброс, повтор квиза, приветствие после перерыва — обходятся без модели. Поэтому на ход приходится не больше двух вызовов LLM.

Отсюда и цена, а считать ее удобнее всего в ходах. Нажатие кнопки — один вызов нарратора: около 3 тысяч токенов на входе, 140 на выходе, 35 копеек. Текстовое сообщение добавляет к нему классификатор — еще копейку. Нарратором работает DeepSeek-V4-Pro, классификатором — DeepSeek-V4-Flash: понять реплику может и маленькая модель, а диалог лучше доверить модели побольше.

И это не предел. Вход — 95% всех токенов, а закэшировано из него было всего около 4%: есть куда дешеветь.

Насколько цена зависит от того, какая модель на какой роли, показала групповая сессия пилота (см. далее). На ней модели перепутали местами: Flash встала на нарратор, Pro — на классификатор. Получился эксперимент, который специально никто бы не ставил: классификатор при 31% вызовов забрал 44% денег, а при обычной расстановке — 1%. Вызов нарратора на Flash у того же провайдера в четыре с половиной раза дешевле, чем на Pro. Рабочая формула: архитектура задает объем работы модели, тариф превращает его в деньги.

По той же формуле считается и чистая LLM: на тех же токенах средний диалог стоил бы 8 рублей на модели среднего класса и 16 — на сильной.

Дешевые модели под контролем

Дешевый агент работает на дешевых моделях, а они ошибаются чаще. Поэтому перед релизом агент проходит две проверки. Офлайн-тесты гоняют автомат без модели: переходы, кнопки, квизы, программы. Эвалы — такие же тесты, только с настоящей моделью и на трудных репликах: каждый горит зеленым или красным.

Вот как это работает на реальном примере. Пользователь в анкете пишет: «не хочу отвечать, просто начни». Дешевая модель на классификаторе спотыкалась об отрицание в начале фразы, принимала его за сопротивление и теряла «начни» — вместо первой темы агент снова просил ответить на вопросы. Эвал на эту фразу краснел от стыда через раз. Починил я кодом: явные «начни», «поехали», «к делу» автомат теперь понимает сам, а модель только добавляет к ним свой сигнал. Эвал позеленел и с тех пор следит, чтобы фраза не сломалась снова.

После релиза проверка идет на каждом ходу, и ведет ее код. Классификатор выбирает только из того, что разрешает текущий шаг, а автомат еще раз проверяет, разрешен ли выбранный переход. Сдвинуть пользователя с маршрута модель не может: позицию двигает только код.

А на случай, если что-то пойдет совсем не так, у сессии есть предохранитель — лимит расходов в 40 рублей. Когда лимит исчерпан, агент переходит на шаблонные отказы. За весь пилот, о котором напишу далее, предохранитель не сработал ни разу.

Пилот: 88 пользователей и 169 рублей

Пилот шел в двух форматах: неделю я вел свободный тест, а на групповую сессию люди пришли разом. Всего 88 пользователей.

Первая потеря — на входе: каждый пятый, начав диалог, не дошел до первой темы. Там стоит анкета, поэтому первая доработка — анкета на кнопках: так быстрее. Вторая потеря больше: из 69 вошедших в курс до конца программы дошли 7 — и это уже вопрос не денег, а вовлеченности.

На групповой сессии в пике с агентом одновременно разговаривал 71 пользователь, и агент ответил всем — ни одного сбоя, ни одной заглушки вместо ответа. До предложения там доходили: карточку предложения увидели 33 пользователя, 10 из них нажали «Интересно».

А на LLM за весь пилот ушло 169 рублей. Готовый ИИ-бот поддержки берет 2 доллара — те же 169 рублей — за один диалог. Одна покупка по среднему чеку онлайн-школы окупила бы шестьдесят таких пилотов.

Считать агента в покупках, а не в токенах

Человек с булками пришел пошутить, а через шесть минут и за три рубля ушел с решением под свою задачу. Это и есть агент активации — дешевый инструмент, чтобы закрыть разрыв выбора: поговорить с каждым, кто присматривается к продукту, и принести ему первую пользу до покупки. Цену такого агента нужно мерить не токенами, а выручкой от одной покупки. Если диалог стоит от 2 до 5 рублей, а покупка приносит в среднем 10 тысяч, выгоду под свой продукт и конверсию посчитать несложно. Мое мнение — такой агент должен стать стандартом для любого продукта, за который платят, в том числе с бесплатной версией.

Перенести агента на другой продукт просто: меняют материалы продукта, правила маршрута, момент, когда показывать предложение, и само предложение. Движок остается тем же. Подойдет любой продукт, который сначала надо попробовать: обучение в онлайн-школе, сервис с бесплатной версией, приложение с пробным периодом.

Дешевизна снимает вопрос денег и оставляет главный — вовлеченность, ту самую вторую потерю воронки: как провести человека от «сушу булки» до покупки. Над этим я и работаю дальше.

Ключевые источники

• От линейного текста к семантическому графу: строим knowledge-extraction-пайплайн для учёбы — апрельская статья о K2-18, на графе которого построен курс.

• 416 тестов и кнопка «снести все»: где ломаются агентные проекты — июльская статья о харнессе агентных проектов; этот агент был в ней седьмым проектом.

• Generative AI without guardrails can harm learning: Evidence from high school mathematics — PNAS, 2025: свободный чат GPT-4 против GPT-4 в учебной обвязке.

• Script-Strategy Aligned Generation: Aligning LLMs with Expert-Crafted Dialogue Scripts and Therapeutic Strategies for Psychotherapy — сценарный бот, чистая LLM и LLM в рамках экспертного сценария на одних и тех же участниках.

• A Conversation Analysis of Non-Progress and Coping Strategies with a Banking Task-Oriented Chatbot — CHI 2020: где бот на интентах перестает понимать собеседника.