Три четверти бизнеса, внедряющего искусственный интеллект, не внедряет кибербезопасность
- CNews FORUM 12 ноября
- CNews AWARDS 12 ноября
- Школа Роста
- Российский рынок облаков за 20 лет
- 30 лет рынку ERP в России
- Главные
ИТ-сценарии 2026 - Цифровизация
- Импортозамещение
- Безопасность
- ИТ в госсекторе
- ИТ в банках
- ИТ в торговле
- Телеком
- Интернет
- ИТ-бизнес
- Рейтинги
- Инфографика
|
23% компаний с собственной разработкой внедряют базовые системы контроля безопасности ИИ. При этом о внедрении искусственного интеллекта в бизнес-процессы отчитались 100% участников совместного исследования AppSec Solutions и АРПП «Отечественный софт». Об этом CNews сообщили представители AppSec Solutions.
Исследование провели среди членов Ассоциации разработчиков программных продуктов «Отечественный софт», в нем приняли участие более 50 компаний-респондентов. Компании внедряют в бизнес-процессы разные варианты ИИ-систем: большие языковые модели (81%), ИИ-ассистенты кода (72%), локальные языковые модели(61%), RAG или генерация с дополненной выборкой (57%), ML-модели(44%).
«Исследование показало, что скорость внедрения искусственного интеллекта в российской разработке ПО втрое опережает скорость выстраивания его защиты. Из 100% компаний, которые внедряют ИИ в рабочие процессы, только 23% внедряют базовые системы контроля безопасности. 69% опрошенных заявили, что атак не зафиксировали, однако и угрозы они не оценивали. Результат требует внимания рынка: скорость внедрения ИИ втрое опережает скорость выстраивания его защиты. Приказ ФСТЭК № 117 и методика 2026 г. уже сегодня помогают определить важные ориентиры для обеспечения безопасности ИИ в организациях. Задача Ассоциации — помочь разработчикам освоить этот каркас: дать разъяснения и практики, в том числе на площадке Дня безопасной разработки ПО, который мы традиционно проводим», – сказал Ренат Лашин, исполнительный директор АРПП «Отечественный софт».
Представители всех компаний также отметили, что активно пользуются ИИ решениями – сотрудники применяют внешние сервисы, как правило, большие языковые модели в формате чатов, 59% «частично», 41% «массово», при этом за частую работающие как теневой ИИ, то есть без консолидированного контроля организации. Риски безопасности здесь возникают от человеческого фактора – когда сотрудники отправляют в модель чувствительные данные, например, внутренние документы компании.
«Исходя из результатов исследования, без ИИ бизнеса, во всяком случае, связанного с разработкой, уже не существует. ИИ глубоко проник во многие процессы, разработчики используют модели для написания ПО, с его помощью оптимизируют бизнес-процессы, предоставляя доступ к корпоративным данным. Официально с подтвержденными атаками столкнулись 4% опрошенных, Но это иллюзия контроля. Более 90% вообще не проводили оценку угроз и не могут оценить потенциал ИИ-атак. Рынок не заблуждается — он осознанно принимает непокрытый риск, потому что не располагает ни экспертизой, ни процессами, чтобы этот риск измерить и более того, управлять им осознанно», - сказал Юрий Сергеев, генеральный директор AppSec Solutions.
72% опрошенных подтвердили, что уже внедрили в корпоративный контур ИИ-агентов. То есть, они делегировали часть «человеческих» полномочий ИИ. Основные риски, с которыми сталкиваются компании: утечки конфиденциальных данных, промпт-инъекции, утечки конфиденциальных данных через RAG-системы, обход встроенных ограничений, атаки на цепочку поставок ML и др.
«Ключевые атаки на ИИ не оставляют следов в привычной телеметрии. Они не выглядят как эксплойт: это валидный запрос с валидным ответом. Без специализированной оценки угроз и без фильтрации на шлюзе безопасности ИИ организация физически не способна отличить нормальную работу модели от успешной атаки. Отчёт «инцидентов не было» в этих условиях не является измерением. По сути компании нуждаются в шлюзе безопасности, который способен распознать и отклонить потенциально опасный запрос, а также единой платформе управления ИИ-рисками, ведь, судя по результатам исследования, сотрудники уже отправляют данные во внешние сервисы во всех организациях выборки. Если запретить это невозможно, остаётся контролировать канал», – сказал Юрий Шабалин, директор по безопасности ИИ AppSec Solutions.
Наибольший потенциал и наибольший риск сосредоточены в сегменте средних ИТ-компаниях со штатом 100–500 человек. Это компании, в которых решения зачастую принимаются «вручную».
«По данным исследования, 82% организаций, назвавших нехватку экспертизы главным барьером, не имеют программы обучения безопасности ИИ. Дефицит знаний порождает фобии и непонимание рисков. Экспертные рабочие группы при Минцифры, Правительстве и отраслевом консорциуме систематизируют угрозы и позволяют определить, для каких задач риск применения ИИ высокий, а для каких минимальный. Это позволяет безопасно внедрять ИИ даже при нехватке внутренней экспертизы», — сказал Антон Башарин, старший управляющий директор Swordfish Security.
KioskNews shows a cleaned-up reading view extracted from the publisher’s page — the original always lives on their site, not ours.