iTProtect: почти каждый второй ИБ-руководитель нуждается в услуге по защите ИИ
- CNews FORUM 12 ноября
- CNews AWARDS 12 ноября
- Школа Роста
- Российский рынок облаков за 20 лет
- 30 лет рынку ERP в России
- Сеть как дом
- Цифровизация
- Импортозамещение
- Безопасность
- ИТ в госсекторе
- ИТ в банках
- ИТ в торговле
- Телеком
- Интернет
- ИТ-бизнес
- Рейтинги
- Инфографика
|
40% руководителей по информационной безопасности в компаниях, внедряющих искусственный интеллект (ИИ) в рабочие процессы, рассматривают новые средства и услуги защиты нейросетей из-за растущих угроз и рисков. Об этом свидетельствуют результаты опроса iTProtect, специализированного интегратора в области информационной безопасности. В числе рисков респонденты отмечают утечки данных, раскрытие конфиденциальной информации из-за проблем с разграничением доступа и промпт-инъекции. Для защиты от таких угроз использования ИИ iTProtect запустил новое направление. Об этом CNews сообщили представители iTProtect.
Искусственный интеллект быстро становится частью корпоративной ИТ-инфраструктуры, помогая оперативно выполнять рутинные задачи и анализировать большие объемы информации. Согласно опросу iTProtect, почти каждая четвертая российская компания (24%) уже активно использует ИИ в рабочих процессах или рассматривает его внедрение как приоритетное направление. При этом 40% руководителей по информационной безопасности из этой группы считают, что использование ИИ расширяет поверхность атаки и планируют меры защиты от такого рода рисков для бизнеса.
Угрозы подтверждаются и практическими исследованиями. Так, по данным отчета Harmonic Security за первую половину 2026 г., чувствительные данные содержались в 26,4% всех файлов, загружаемых сотрудниками различных предприятий в ИИ-приложения. Риски связаны не только с тем, какие данные сотрудники передают внешним ИИ-сервисам, но и с безопасностью самих моделей и приложений на их основе.
Безопасность ИИ также становится частью регуляторной повестки. В июне 2026 г. Банк России опубликовал методические рекомендации по информационной безопасности при использовании ИИ в финансовом секторе. Кроме того, требования приказа ФСТЭК №117 предусматривают меры защиты информации при использовании ИИ в информационных системах государственных учреждений.
На фоне расширения применения ИИ и формирования современного класса угроз iTProtect запустил новое направление – по защите искусственного интеллекта, которое предлагает пять основных классов решений и услугу: AI Firewall, автопентест AI/LLM-моделей, защиту агентов, внедрение безопасных корпоративных ИИ-агентов, а также тестирование LLM. Суммарно по всем классам портфель состоит из 15 вендорских продуктов и услуги от пентестеров iTProtect.
AI Firewall контролирует обращения к ИИ-сервисам как внешним, так и внутренним, и блокирует нелегитимные запросы и ответы. Решение находит и маскирует чувствительные данные, разграничивает к ним доступ сотрудников и фильтрует ответы языковых моделей. Это снижает риск утечки конфиденциальной информации за пределы компании, а также защищает от недостоверных ответов модели.
AI/ML-автопентест проверяет большие языковые модели и GenAI-системы на устойчивость к более чем 40 видам атак, а также выявляет уязвимости ИИ-приложения еще до его запуска в эксплуатацию. Отдельная функциональность такого решения анализирует ИИ-модели на риски раскрытия конфиденциальной информации.
Специальные инструменты защиты ИИ-агентов позволяют контролировать их работу в реальном времени с учетом их привилегий и политик безопасности. Решение отслеживает действия агента, используемые источники и цепочку рассуждений, блокирует опасные команды и инъекции, а также выявляет аномалии в запросах. Таким образом, сотрудники ИБ-службы компании видят, какие ИИ-инструменты используются в инфраструктуре, и могут сократить поверхность атаки.
В рамках нового направления специалисты iTProtect также внедряют в защищенном контуре заказчика безопасных корпоративных ИИ-агентов на базе специализированной платформы. Такой подход помогает справиться с «теневыми ИИ», когда сотрудники пользуются внешними нейросетями, неконтролируемыми службой безопасности компании. Благодаря механизму использования источников знаний (RAG, Retrieval-Augmented Generation) платформа работает с базами знаний компании и помогает автоматизировать сложные процессы. Также она поддерживает более 100 языковых моделей, поэтому специалисты могут переключаться между ними в одном интерфейсе.
Классическое тестирование инфраструктуры на проникновение (pentest) не всегда позволяет выявить специфические для ИИ угрозы: промпт-инъекции, отравление базы знаний или злоупотребление инструментами ИИ-агента. Для оценки таких рисков проводится тестирование LLM, в ходе которого проверяются устойчивость модели к джейлбрейкам, многошаговым атакам и обходу защитных механизмов, возможность извлечения конфиденциальной информации через документы и запросы, риски несанкционированного доступа к данным, злоупотребления инструментами и эскалации прав. Дополнительно оцениваются безопасность API и ключей, журналирование событий и риски неконтролируемого расходования вычислительных ресурсов. Такой подход позволяет выявить специфические для ИИ уязвимости и определить меры для их устранения до эксплуатации системы в реальных условиях.
«Как показывает практика, ИИ уже перестал быть экспериментальной технологией и становится частью корпоративных процессов. Вместе с этим меняется и модель угроз: теперь недостаточно защищать сеть, инфраструктуру или конечные устройства только классическими средствами защиты – необходимо контролировать, какие данные передаются ИИ, какие полномочия получает модель или агент и какие действия они могут выполнять. Поэтому защита ИИ становится важным направлением информационной безопасности. В ходе формирования состава решений мы изучили ключевые продукты, которые есть сегодня на рынке и добавили к себе в портфель самые технически зрелые из них», – сказал Алексей Беспояско, эксперт по информационной безопасности iTProtect.
По оценке компании, спрос на защиту ИИ в России будет расти вслед за внедрением корпоративных ассистентов, ИИ-агентов и все большим использованием как локальных, так и распространенных ИИ-моделей.
KioskNews shows a cleaned-up reading view extracted from the publisher’s page — the original always lives on their site, not ours.