Искусственным интеллектом должен владеть естественный: кто отвечает за ошибки ИИ

ИИ уже забрал на себя маршрутизацию заявок, типовые ответы и добрую половину работы первой линии — там, где раньше сидел человек и вручную разбирал, кому отправить обращение по сломанному принтеру, а кому по доступу в CRM, теперь справляется алгоритм, который не устаёт к вечеру пятницы и не путает приоритеты. Логичный вопрос: если рутину забрал ИИ, зачем вообще нужен ITSM?

Зона ответственности Service Desk перераспределяется. Давайте обсудим, кто отвечает за ИИ-сервисы и что будет, если пустить их на самотёк.

У ИИ-услуги должен быть владелец

Если раньше владелец сервиса отвечал за доступность портала, скорость реакции агентов и полноту базы знаний, то теперь к этому списку добавляется ИИ-ассистент — а вместе с ним и вопросы, на которые раньше просто не приходилось отвечать. Кто следит за тем, что база знаний, на которой обучен ассистент, актуальна? Кто решает, к каким данным у ИИ есть доступ, а к каким — нет? Кто прописывает сценарии, при которых запрос должен уйти живому специалисту, а не зависнуть в диалоге с ботом, который вежливо переспрашивает «уточните, пожалуйста, ваш вопрос» в третий раз?

В идеальном сценарии у ИИ-сервиса уже есть всё, чтобы отвечать точно, — данные, история обращений, готовые сценарии. Не хватает только того, кто следит, чтобы эти данные не устаревали. Без ответственного за эти вопросы решения принимаются как попало: сегодня одна команда донастроила промпт, завтра другая обновила базу знаний, а через месяц уже никто не может объяснить, почему ассистент вдруг стал советовать пользователям отключать фаервол «для диагностики». А владелец мог бы эти проблемы предотвратить, например, раз в неделю проверять долю эскалаций и какие вопросы бот вдруг стал решать хуже, чем месяц назад.

При этом ИИ уже не только чатится, ИИ-агенты ходят в другие системы, закрывают тикеты, меняют записи в CMDB, инициируют изменения без участия человека. И владелец — это тот, кто разрешил ассистенту трогать боевую систему и на каких условиях.

Ещё один момент, который легко упустить, — обратная связь. Может ли пользователь оспорить ответ бота, или жалоба тонет где-то в логах, так и не дойдя до владельца? О системных ошибках часто узнают так же, как раньше узнавал агент поддержки, постфактум, от разозлённого пользователя.

Зачем именно владелец, а не мониторинг аптайма

Техническая исправность ИИ и качество его ответов — это, конечно, разные вещи, но путать их слишком легко: ассистент может отвечать за 200 миллисекунд, быть доступным круглосуточно, проходить все SLA по времени ответа и при этом уверенно, спокойно, без единой запинки выдавать пользователю неверную информацию.

Мониторинг аптайма такую ошибку не поймает никогда, потому что с точки зрения инфраструктуры всё работает штатно: сервер отвечает, база данных не упала, задержка в норме — просто ответ неверный, а разбираться в этом должен не дежурный инженер, а тот, кто понимает контекст запроса и может оценить содержание, а не только доступность. Технически исправный ИИ, который уверенно ошибается, страшнее сломанного — сломанному хотя бы не верят. Поэтому и смотреть стоит не на SLA по времени ответа, а на долю верно решённых обращений и на то, какой процент диалогов уходит на эскалацию.

И масштаб здесь другой. Агент, который дал неверный совет, испортил день одному человеку. Ассистент с устаревшей базой знаний тиражирует ту же ошибку на тысячи диалогов одновременно, и вскроется это только тогда, когда кто-то наконец заметит паттерн, а не единичный случай.

Но какой тогда будет уровень удовлетворённости обслуживанием, если формально всё работает, а по факту пользователи получают уверенно поданную дезинформацию? Качественный сервис на этом не построишь.

Что будет, если владельца не назначить

Если ИИ-ассистент работает сам по себе, без явного владельца, пользователи всё равно не перестанут звонить в поддержку — они просто начнут звонить, чтобы перепроверить то, что им уже ответил бот. «А вообще можно ли доверять этому чату» спрашивают они у живого агента, держа в другой руке телефон с открытым диалогом с ассистентом. Никакого самообслуживания в этом сценарии не получится.

Но если у ИИ-сервиса есть владелец, который регулярно проверяет качество ответов, обновляет базу знаний и настраивает сценарии эскалации так же внимательно, как раньше настраивали маршрутизацию заявок между агентами, то доверие к ассистенту будет расти или хотя бы держаться на нормальном уровне. 

Мы в SimpleOne используем ИИ-помощника в ITSM, он может найти для пользователя нужную услугу, помочь заполнить форму запроса или инцидента, показать обходное решение, предупредить о работах и ответить по базе знаний. Работает с RAG, учитывает корпоративный контекст. 

Владеет и несет ответственность за достоверность ответов сервисная команда. В будущем такой же ассистент сможет отвечать не только на вопросы к ИТ, но и на темы HR, АХО, бухгалтерии и других сервисных подразделений.

Сама профессия агента, как и многие  другие позиции в эпоху ИИ, меняется. Теперь можно стать владельцем ИИ-сервиса и отвечать не за скорость закрытия тикетов, а за то, можно ли вообще доверять машине, которая эти тикеты закрывает. Вы бы стали?