«Кросстех»: HR-департаменты все чаще становятся жертвами атак типа prompt injection

• CNews FORUM 12 ноября
• CNews AWARDS 12 ноября
• Школа Роста
• Российский рынок облаков за 20 лет
• 30 лет рынку ERP в России
• Главные ИТ-сценарии 2026
• Цифровизация
• Импортозамещение
• Безопасность
• ИТ в госсекторе
• ИТ в банках
• ИТ в торговле
• Телеком
• Интернет
• ИТ-бизнес
• Рейтинги
• Инфографика

24 Сентября 2026 14:51 24 Сен 2026 14:51 |

Атаки на ИИ-системы в 2026 г. становятся все более распространенными из-за расширения области применения искусственного интеллекта в компаниях, а также роста общего числа предприятий, внедривших подобные системы в свою инфраструктуру. HR-департаменты – одна из главных целей атак типа prompt injection, по оценкам специалистов «Кросстеха», до 30% таких инцидентов приходится именно на подразделения, работающие с сотрудниками.

Эксперты указывают, что популярность HR, как цели для атак prompt injection, обусловлена несколькими факторами: активным использованием ИИ со стороны HR-специалистов, большим объемом чувствительных данных и простым доступом к сотрудникам департаментов.

Наиболее распространенный способ атак prompt injection – внедрение вредоносного промпта в файлы с резюме. Команда, провоцирующая ИИ на нелегитимные действия, может быть вшита как в текст, так и в графические элементы - фото соискателя, инфографику. В результате исполнения вредоносной команды модель может изменить свое поведение и пропускать резюме, которые должны отсеиваться, а при наличии доступа к внутренним базам или API отправлять чувствительные данные на внешний сервер.

Специалисты «Кросстеха» подчеркивают, что защита от prompt injection требует комплексного подхода. Во-первых, модель должна четко разделять системный и пользовательский промпт и всегда отдавать приоритет именно системному промпту. Во-вторых, загружаемые в модель данные должны проходить предварительную фильтрацию на наличие подозрительных фраз, например, «игнорируй все предыдущие указания». В-третьих, модель, в которой обрабатываются внешние данные, должна существовать независимо от внутренних баз и не иметь связей с основной инфраструктурой через API. Это позволит максимально ограничить возможность утечки корпоративной информации.

«Защита ИИ становится все более актуальным вопросом для российских компаний, во многом проблема становится острее из-за внедрения моделей опережающими темпами. HR-департаменты стали одними из пионеров внедрения ИИ-систем, поэтому злоумышленники часто целятся именно на них. Компаниям необходимо прорабатывать вопросы защиты до внедрения ИИ, чтобы избежать дополнительных киберрисков», – сказал Антон Редько, руководитель группы «Безопасная разработка» «Кросстеха».

• Инвестируйте в навыки для решения ваших бизнес-задач вместе со Школой Роста CNews