[Перевод] ИИ всё лучше водит киберпреступников за нос

Мошенники давно используют автоматизацию: массовые рассылки, подмену номеров, шаблоны диалогов и системы обзвона помогают им работать сразу с тысячами потенциальных жертв. Генеративный ИИ добавил к этому убедительные тексты, синтез речи и возможность быстро менять легенду под собеседника. Но тот же принцип начинают применять защитники: вместо того чтобы только блокировать подозрительный звонок, они дают мошеннику «жертву», с которой можно разговаривать часами и которая никогда не переведёт деньги.

Такой подход называют scambaiting — намеренным вовлечением мошенника в бесполезный для него диалог. Нейросети делают метод масштабируемым и превращают ИИ в инструмент сдерживания и разведки, а не только в фильтр рискованного трафика.

Как ИИ-боты отвлекают мошенников

Оператор связи или другой партнёр распознаёт подозрительный звонок либо сообщение и перенаправляет его в контролируемую среду. Там отвечает бот с заданным профилем. Он говорит на нужном языке, проявляет осторожность, задаёт уточняющие вопросы, обещает перезвонить или постепенно переходит к следующему этапу схемы. Задача не в том, чтобы выиграть спор, а в том, чтобы удержать мошенника в диалоге и понять, как устроена атака.

Если бот получает ссылку, номер, реквизиты счёта, адрес криптокошелька, сценарий социальной инженерии или название организации, под которую маскируются злоумышленники, эти данные передают аналитикам. После проверки они становятся сигналами для блокировок, расследований и предупреждений пользователей. Разговор с ботом одновременно отвлекает атакующего от реальных людей и пополняет базу индикаторов компрометации.

Метод не отменяет антифрод, фильтрацию звонков, мониторинг платежей и обучение пользователей. Он даёт команде время и сведения о текущей кампании, которые можно передать тем, кто способен остановить перевод или заблокировать инфраструктуру.

Apate: «идеальные жертвы» для звонков и чатов

Австралийская компания Apate развивает именно такую систему. По данным WIRED, основатель и генеральный директор Apate Дали Кафар сообщил, что в платформе около 350 тысяч ботов. Они отвечают на звонки, пишут в чатах и реагируют на текстовые сообщения. Кафар также заявил, что система в реальном времени собрала свыше 250 тысяч единиц информации о мошеннической инфраструктуре: ссылки на сайты, банковские реквизиты и данные счетов, используемых для вывода средств.

Эти цифры — данные самой компании, а не независимая оценка эффективности. Официальные материалы Apate подтверждают принцип работы: голосовые и текстовые боты собирают платёжные реквизиты, адреса криптокошельков, почту и другие технические артефакты. Платформа рассчитана на телеком-операторов, банки, криптосервисы, государственные структуры и правоохранительные органы.

В демонстрации Apate журналисты WIRED пытались убедить бота вложиться в криптовалютную схему. Система отвечала по существу, делала естественные паузы и не соглашалась на перевод. По словам Кафара, некоторые разговоры с ботами длятся больше двух часов. Это не означает, что такая длительность гарантирована для каждой кампании, но показывает цель сервиса: заставить мошенника тратить время впустую.

Почему одной блокировки недостаточно

Блокировка номера полезна, но сама по себе редко даёт устойчивый эффект. Преступники меняют SIM-карты, аккаунты, домены и способы доставки сообщений. Без обмена данными оператор, банк и онлайн-платформа фиксируют только отдельные фрагменты одной кампании.

Диалоговый бот помогает связать канал контакта, легенду, реквизиты, временные паттерны и тексты, которыми мошенники уговаривают жертву. Полученный материал нельзя отправлять в блокировку автоматически: ссылки и счета нужно верифицировать, а решения должны учитывать риск ложных срабатываний. ИИ не заменяет расследование, а создаёт поток первичных сведений, который раньше добывался через жалобы пользователей, записи звонков и ручной анализ.

ИИ-ханипоты против атакующих агентов

Тот же подход работает не только с телефонным мошенничеством. В кибербезопасности давно применяют ханипоты — ловушки, которые имитируют уязвимый сервер, веб-приложение или другой привлекательный для атакующего объект. Обычный ханипот часто выдаёт себя предсказуемым поведением: он отвечает на ограниченный набор команд или повторяет одни и те же ошибки.

Большие языковые модели позволяют имитировать систему гибче: отвечать на незнакомые команды, сохранять контекст сессии и правдоподобно объяснять странности в конфигурации. Однако лабораторный результат нельзя автоматически переносить на работу против реальных преступных групп.

Исследователи ETH Zurich во главе с Марком Веро разработали методику Honeyval для оценки HTTP-ханипотов на основе LLM. В эксперименте атакующими выступали автономные ИИ-агенты, а не люди. Согласно материалам ETH Zurich, LLM-ханипоты удерживали атакующих примерно в три раза дольше, чем правило-ориентированный базовый вариант. При этом более длинный диалог может повысить вероятность распознавания ловушки. Реалистичность не равна безопасности, а разговорный слой нельзя подключать к реальной инфраструктуре без изоляции и контроля.

Какие данные получают защитники

Разговор с ботом полезен только при понятном списке данных, которые команда хочет получить. В голосовом мошенничестве это номера телефонов, домены, ссылки на фишинговые страницы, адреса кошельков, банковские реквизиты, имена подставных сотрудников и формулировки легенды. В атаке на инфраструктуру — используемые команды, попытки повысить привилегии, инструменты и признаки автоматизированного агента.

Собранные данные удобно делить на три уровня:

1. Срочные индикаторы. Ссылки, реквизиты и номера, которые можно быстро проверить и использовать для блокировки.

2. Контекст кампании. Роли «сотрудников банка», угрозы, обещания, временные окна и языковые шаблоны.

3. Долгосрочные признаки. Повторяющиеся инфраструктурные элементы и поведенческие паттерны, связывающие несколько эпизодов в одну кампанию.

Бот не должен сам решать, кого обвинять и что блокировать. Его задача — собрать сигнал и зафиксировать контекст. Решения об ограничениях должны оставаться за верифицируемым процессом: автоматическими проверками с порогами, аналитиком и правилами передачи данных между организациями.

Ограничения и практические выводы

Мошенник может сознательно передать ложные реквизиты, проверять защиту или менять сценарий, увидев нетипичную реакцию собеседника. Система, которая анализирует коммуникации, должна работать в правовом поле и в изолированной среде. Для легитимных контактов нельзя создавать препятствия или собирать лишние данные.

Метрикой успеха нельзя считать только продолжительность разговора. Нужнее доля подтверждённых индикаторов, скорость их обработки, число предотвращённых контактов и отсутствие ущерба для обычных пользователей.

Для команд безопасности из этого следуют пять правил:

1. Оценивайте количество проверенных данных, которые привели к блокировке, предупреждению или обновлению детектора.

2. Изолируйте ИИ-ханипот от реальных систем, секретов и клиентских данных.

3. Заранее назначайте владельца каждого типа сигнала: кто проверяет реквизиты, в какие сроки и куда передаёт подтверждённый результат.

4. Проектируйте сценарии под конкретные схемы. Для голосовых мошенников важны паузы, бытовой контекст и осторожность; для технических ханипотов — правдоподобная конфигурация.

5. Не используйте ИИ-диалог как самостоятельное наказание или основание для обвинения. Его задача — улучшить разведданные и помочь предотвратить ущерб.

ИИ делает мошеннические схемы убедительнее и дешевле в масштабировании. Но в защите он даёт другой эффект: превращает контакт с потенциальной жертвой в ловушку, а хаотичный поток звонков и сообщений — в материал для анализа. Сам по себе бот не остановит киберпреступность. Он становится полезным, когда связан с проверкой данных, антифродом, телеком-инфраструктурой и понятным процессом реагирования.