Теневой ИИ: закрывайте поддержку, пользователи всё могут сами

Сотрудник столкнулся с ошибкой, скопировал её в нейросеть и она ему всё починила — через полминуты работает дальше, а в системе не остаётся ни заявки, ни записи об обращении. Разбираемся, что при этом теряет ИТ-поддержка, почему в России такая самодеятельность обходится особенно дорого и как вернуть видимость, не возвращая людей в очередь.

Всем привет, это команда продукта SimpleOne ITSM. Заголовок, конечно, провокация — на самом деле закрывать поддержку никто не предлагает. Но если посмотреть, как сотрудники решают мелкие ИТ-проблемы в 2026 году, может показаться, что сервис-деск им уже не особенно нужен.

Тикета нет, инцидента нет, проблема есть

За двадцать минут до созвона с клиентом менеджер открывает CRM, а вместо отчёта видит окно с ошибкой подключения к информационной базе и кодом, который ни о чём ему не говорит. Можно пойти на портал, найти в каталоге подходящую услугу (где-то между «Доступ к информационным системам» и «Прочее»), описать проблему и ждать, пока первая линия разберёт очередь. А можно скопировать текст ошибки в нейросеть, за несколько секунд получить пошаговую инструкцию, почистить кеш, перезапустить клиент и успеть на созвон. По времени второй вариант выигрывает.

В статье «Компьютерры» теневым ИИ (shadow AI) называют использование сотрудниками публичных ИИ-сервисов для обработки корпоративных данных без одобрения ИТ и ИБ. Для него достаточно вкладки в браузере, поэтому он распространяется быстрее теневого ИТ, а конфиденциальный документ, попавший в публичную нейросеть, может оказаться в обучающей выборке. В поддержке это выглядит так: каждая вставленная в чат ошибка, кусок лога или конфига уходит на чужие серверы и разбирается чужой моделью. 

Злого умысла здесь нет: сотрудник выбирает то, что быстрее. У нейросети нет формы обращения и очереди, а автоответ «ваша заявка принята, срок решения — 8 рабочих часов» она не присылает. Сервис-деск выстроен ради управляемости и прослеживаемости (регистрация, классификация, назначение, решение), но сотруднику нужно успеть до созвона, и каждый шаг этой цепочки отнимает время, которого у него нет.

Но что пропадает вместе с заявкой?

Проблема решена, пользователь продолжает работу, но вместе с заявкой исчезает всё, что поддержка могла бы из неё извлечь. Это сказывается на трёх вещах:

1. Управление проблемами. Допустим, после обновления сервера CRM одна и та же ошибка появилась у сорока сотрудников, и каждый решил ее сам через ChatGPT. В системе нет ни одного инцидента, поэтому вторая линия не видит паттерна, по которому можно понять, что причина в конфигурации сервера. Если мониторинг сервера эту ошибку не фиксирует, заявки остаются единственным сигналом. Остается сорок обходных решений вместо одной проблемы с найденной корневой причиной, а база известных ошибок пустует там, где она нужна больше всего.

2. Работа безопасников. Если у пользователя есть права локального администратора, аналитик SOC может увидеть на его рабочей станции аномалию: изменился параметр реестра, перезапустилась служба, в локальном файрволе появилось новое правило. Обычно такое событие сверяют с инцидентом или запросом на изменение, и сразу понятно, кто, когда и зачем это сделал. Здесь сверять не с чем: изменение внес сам пользователь по совету нейросети, а запись об этом осталась разве что в истории его чата. Каждое такое событие приходится разбирать с нуля, команда обрабатывает лишние алерты, и атака может остаться незамеченной.

3. Контроль над данными. Больше всего рисков создает содержимое запроса. Чтобы нейросеть помогла, ей нужен контекст, и сотрудник добросовестно его даёт: полный текст ошибки с именем сервера, фрагмент конфигурационного файла, лог с IP-адресами и учетными записями коллег, а иногда и пароль, «чтобы было понятнее». Модель задает уточняющие вопросы, сотрудник отвечает на них, и обратно эти данные уже не вернуть.

Во всех трёх случаях причина одна: запрос нигде не регистрируется, и о нём не узнают ни вторая линия, ни безопасники.

Российская специфика

Для зарубежных компаний теневой ИИ остаётся вопросом гигиены и внутренних политик, а у нас добавляется 152-ФЗ. Если в логе, который ушёл в нейросеть, есть ФИО, рабочая почта или телефон сотрудника, это уже персональные данные. Передать их внешнему сервису можно только на законном основании: обычно это договор, по которому оператор поручает обработку исполнителю. Если сервис зарубежный, о трансграничной передаче нужно ещё и уведомить Роскомнадзор. Сотрудник, который вставляет лог в чат за пять минут до созвона, этих условий не выполняет, а отвечать будет компания как оператор персональных данных.

С 30 мая 2025 года штрафы за утечки выросли, а за повторную утечку стали оборотными, до 3% годовой выручки. Пароли и конфигурации к персональным данным не относятся, но почти в любой крупной компании есть внутренняя политика, по которой такие сведения не покидают контур, и чат с внешней моделью ее нарушает.

Масштаб уже измеряют: по сообщению Anti-Malware.ru, ГК «Солар» проанализировала трафик 150 российских организаций и выяснила, что за 2025 год объем данных, которые сотрудники отправляют в публичные нейросети, вырос в 30 раз, причем уходят туда исходный код, финансовые отчеты, юридические документы и клиентские базы. Около 60% организаций при этом до сих пор не имеют формальных правил работы с ИИ-сервисами. Эти цифры охватывают любое использование нейросетей, а ИТ-поддержка составляет лишь его часть. По данным «Информзащиты», которые приводит RUБЕЖ, 20% организаций, пострадавших от утечек, связали инциденты с неконтролируемым использованием ИИ (годом ранее таких было около 12%), а в 42% случаев данные уходили через обычные веб-интерфейсы чат-ботов — то есть тем же способом, которым наш менеджер решал проблему с CRM.

Есть и ограничение доступа. ChatGPT, Gemini и Claude официально недоступны из России, поэтому сотрудники, которые ими пользуются, заходят через личный VPN и личный аккаунт. Корпоративные средства защиты такой трафик видят в лучшем случае частично, история диалогов хранится в аккаунте, к которому у компании нет доступа, и после увольнения уходит вместе с владельцем. Отечественные сервисы VPN не требуют, но данные в них тоже передаются внешнему оператору.

Запретить нельзя оставить

Первая реакция службы безопасности понятна: заблокировать доступ к нейросетям или включить DLP и контроль трафика. Такие меры нужны, но потребность они не убирают. Сотрудник фотографирует ошибку на личный телефон и задаёт тот же вопрос через мобильный интернет, и теперь о нём не знают ни управление проблемами, ни SOC, ни сама служба ИБ. Заявки по-прежнему нет, а видимость стала еще ниже.

Обучение кибергигиене полезно, и регламент о работе с ИИ-сервисами написать нужно: из него сотрудники узнают, что в чат нельзя вставлять пароли и конфигурации. Но в условиях ограниченного времени человек выбирает самый быстрый ответ, как подробно ему ни объясняли правила на вводном инструктаже, и запись об обращении по-прежнему не создаётся.

Можно нанять ещё агентов на первую линию, чтобы очередь двигалась быстрее. Это дорого, а результат ограничен: даже если первая линия отвечает за несколько минут, нейросеть отвечает за несколько секунд. Если сотрудник всё равно уходит к нейросети, дополнительные агенты не получают ни заявок, ни данных для управления проблемами.

Ни запрет, ни регламент, ни найм не возвращают то, что пропадает вместе с заявкой: сигнал о повторяющихся сбоях, контекст для SOC и контроль над тем, что уходит наружу. Они вернутся, только если самое быстрое решение находится внутри контура компании и оставляет запись об обращении. 

ИИ гид-помощник: как упростить обращение в поддержку и вернуть сотрудников 

Снова представим менеджера, у которого перед созвоном с клиентом не открывается CRM. Теперь на сервисном портале его компании есть чат, который отвечает так же быстро, как привычная нейросеть. Такой ИИ гид-помощник мы выпустили в июле 2026 года в версии SimpleOne ITSM 2.0.0. Менеджер пишет в свободной форме: «не открывается CRM, ошибка подключения к базе», и ему не нужно знать, как называется услуга в каталоге. Помощник строится на RAG: прежде чем модель сгенерирует ответ, он ищет по корпоративным данным, то есть по каталогу услуг, типовым запросам, статьям базы знаний, объявлениям и базе известных ошибок, а затем собирает ответ со ссылками на источники.

Дальше сценарий зависит от того, что нашлось. Если для этой ошибки в базе известных ошибок уже есть запись с обходным решением, помощник покажет её в чате. Когда служба уже опубликовала объявление о сбое (например, «сервер CRM недоступен до 11:00»), сотрудник узнает об этом сразу, и у первой линии не появляется дубль инцидента. Ответ из базы знаний помощник пересказывает коротко и предлагает открыть статью целиком. Если ничего не подошло, он уточняет детали, определяет, что нужен инцидент, и готовит форму обращения с заполненными полями: сотруднику остается проверить её и отправить.

По оценке нашей команды, в типовом сценарии человек получает ответ или заполненную форму за 30–60 секунд, причём без VPN и личного аккаунта. Подробнее про сценарии и экономику — в статье Андрея Вишнякова на ITWeek.

Главное отличие от внешней нейросети: каждый диалог с помощником сохраняется в платформе (для этого есть отдельная таблица чатов), а сообщения связываются с заявками, если обращение до них дошло. Даже когда вопрос закрылся в чате, сорок одинаковых вопросов про CRM после обновления сервера видны в системе как повторяющийся запрос, с которым можно идти в управление проблемами. У аналитика SOC появляется запись, с которой можно сверить изменение на рабочей станции, а у владельца базы знаний — список вопросов, на которые статей пока нет.

Помощник работает на GenAI-возможностях платформы SimpleOne, которую можно развернуть на инфраструктуре заказчика и подключить к ней отечественные модели или собственную LLM компании. Лог с IP-адресами по-прежнему лучше никуда не вставлять, но если он всё же попал в чат помощника, то при размещении модели на инфраструктуре заказчика он остаётся внутри контура.

Где у этого подхода границы

Меры информационной безопасности остаются в силе: регламент по внешним ИИ-сервисам, DLP и контроль трафика нужны по-прежнему, а помощник убирает главный повод их обходить.

У самого помощника тоже есть риск: в его диалогах оказывается всё, что сотрудники вставляют в чат, включая пароли и логи. Поэтому срок хранения чатов и права доступа при поиске по базе знаний нужно настроить до запуска помощника у пользователей. Часть риска снимает маскирование данных, которое работает в SimpleOne. Если требования к данным ещё строже, к помощнику можно подключить локальную LLM, и запросы сотрудников не покинут инфраструктуру компании.

Качество ответов зависит от того, что лежит в базе знаний. RAG ищет только по уже существующим материалам, поэтому если статьи там образца 2021 года, а базу известных ошибок никто не ведёт, помощник будет пересказывать устаревшее. Владельцам контента придётся держать его актуальным, хотя это полезно и без всякого ИИ. Кто в компании отвечает за актуальность базы знаний и точность ответов ИИ и как это измерять, мы разбирали в статье на Хабре. 

ИИ гид-помощник сокращает время от вопроса до ответа или заполненной заявки. Вторая линия остаётся на месте: корневую причину находят инженеры, сервер CRM настраивают тоже они, а данные об обращениях теперь есть в системе.

Резюме

Запретом проблему не решить: сотрудники уходят туда, где их не видно совсем. Решает её ИИ гид-помощник на сервисном портале, который отвечает так же быстро и оставляет обращение внутри платформы. Тогда повторяющиеся вопросы видны как паттерны для управления проблемами, у безопасников появляется запись о том, какой совет получил сотрудник, а при размещении модели на инфраструктуре компании логи с паролями не уходят на внешние серверы через личный VPN.

Сколько обращений к внешним нейросетям по рабочим вопросам сотрудники вашей компании сделали за последнюю неделю и чем вы это измеряете: логами прокси, DLP или опросом? Расскажите в комментариях.