Искусственный интеллект и ФСТЭК России: действующие и проектируемые документы по состоянию на 01.09.2026

После непродолжительных поисков в нормативных недрах обнаружились следующие документы за авторством ФСТЭК России, в которых так или иначе упоминается «искусственный интеллект»:

• Методический документ «Методика анализа защищенности информационных систем», утв. ФСТЭК России 25.11.2025 (ссылка)

• Методический документ «Состав и содержание мероприятий и мер по защите информации, содержащейся в информационных системах», утв. ФСТЭК России 12.04.2026 (ссылка)

• Требования о защите информации, содержащейся в государственных информационных системах, иных информационных системах государственных органов, государственных унитарных предприятий, государственных учреждений, утв. Приказом ФСТЭК России от 11.04.2025 № 117 (в ред. Приказа ФСТЭК России от 08.05.2026 № 137) (ссылка)

• Методический документ «Методика оценки уровня зрелости деятельности в области технической защиты информации в информационных системах и обеспечения безопасности значимых объектов критической информационной инфраструктуры Российской Федерации», утв. ФСТЭК России 07.08.2026 (ссылка)

• Проект Приказа ФСТЭК России «О внесении изменений в Требования о защите информации, содержащейся в государственных информационных системах, иных информационных системах государственных органов, государственных унитарных предприятий, государственных учреждений, утвержденные приказом Федеральной службы по техническому и экспортному контролю от 11 апреля 2025 г. № 117» (ссылка)

• Проект Приказа ФСТЭК России «Об утверждении Состава и содержания организационных и технических мер по обеспечению безопасности персональных данных при их обработке в информационных системах персональных данных» (ссылка)

Методический документ «Методика анализа защищенности информационных систем», утв. ФСТЭК России 25.11.2025

Название говорит само за себя: документ предусматривает описание процедуры поиска уязвимостей в системах защиты информации информационных систем, в т.ч. АСУ и информационно-телекоммуникационных сетей. Т.е. не в самих системах, а в их защитном контуре. Нормативное основание – Приказ ФСТЭК России от 29.04.2021 № 77 «Об утверждении порядка организации и проведения работ по аттестации объектов информатизации на соответствие требованиям о защите информации ограниченного доступа, не составляющей государственную тайну» (п. 1.2). Соответственно, в первую очередь надо смотреть туда. Но сейчас мы этого делать не будем, мы здесь ИИ ищем, а там его точно нет.

Согласно п. 1.4 Методика применяется в ходе:

1) аттестации информационных систем на соответствие требованиям по защите информации; этих требований там набирается аж на шесть приказов, из которых Приказ ФСТЭК России от 28.02.2017 № 31 даже не найти в открытых источниках: «Требования к обеспечению защиты информации, содержащейся в информационных системах управления производством, используемых предприятиями оборонно-промышленного комплекса» – что с таким-то намеком на содержание совершенно неудивительно. Смотрим остальные пять и ищем свое:

• Приказ ФСТЭК России от 11 апреля 2025 г. № 117 «Об утверждении требований о защите информации, содержащейся в государственных информационных системах, иных информационных системах государственных органов, государственных унитарных предприятий, государственных учреждений» (ссылка);

• Приказ ФСТЭК России от 21 декабря 2017г. № 235 «Об утверждении требований к созданию систем безопасности значимых объектов критической информационной инфраструктуры Российской федерации и обеспечению их функционирования» (ссылка);

• Приказ ФСТЭК России от 25 декабря 2017г. № 239 «Об утверждении требований по обеспечению безопасности значимых объектов критической информационной инфраструктуры Российской Федерации» (ссылка);

• Приказ ФСТЭК России от 14 марта 2014г. (в тексте Методики указан 2013 год) № 31 «Об утверждении требований к обеспечению защиты информации в автоматизированных системах управления производственными и технологическими процессами на критически важных объектах, потенциально опасных объектах, а также объектах, представляющих повышенную опасность для жизни и здоровья людей и для окружающей природной среды» (ссылка);

• Приказ ФСТЭК России от 18 февраля 2013г. № 21 «Об утверждении состава и содержания организационных и технических мер по обеспечению безопасности персональных данных при их обработке в информационных системах персональных данных» (ссылка);

2) контроля уровня защищенности конфиденциальной информации от несанкционированного доступа и ее модификации в информационных системах, проводимого в соответствии с требованиями по защите информации;

3) оценки соответствия информационных систем требованиям по защите информации (испытания) и достаточности принимаемых мер по защите информации (обеспечению безопасности), реализация которых предусмотрена требованиями по защите информации.

Кому целесообразно изучить данную Методику? Во-первых, заказчику создаваемой (созданной) информационной системы, в качестве которого может выступать как государственный орган, так и организация как коммерческая, так и некоммерческая (п. 2.1). Во-вторых, лицензированной организации-исполнителю; исполнителем может быть и структурное подразделение заказчика, само собой, имеющее лицензию (п. 2.2).

П. 3 устанавливает следующие этапы проведения анализа уязвимостей: а) сбор исходной информации; б) внешний анализ уязвимостей; в) внутренний анализ уязвимостей; г) оценка выявленных уязвимостей.

П. 3.1 раскрывает детали сбора исходной информации и вот здесь в п. 3.1.7 в первый и единственный раз встречается упоминание ИИ: в табл. 1 присутствует позиция «ИНП.9 | Сбор информации о программном обеспечении, реализующем модели машинного обучения (технологии искусственного интеллекта)», для которой предусмотрен вид анализа «С1».

«С1» – это внешнее сканирование, в ходе которого проводится анализ периметра информационной системы. Работы проводятся удаленно из сети «Интернет». В ходе внешнего сканирования выявляются уязвимости телекоммуникационного оборудования, средств защиты информации, программного обеспечения, сетевых сервисов и служб, приложений, размещенных на периметре информационной системы (пп. «а» п. 2.10). В границы проведения работ при таком сканировании включаются публичные сетевые адреса, службы и сервисы информационной системы и информационно-телекоммуникационной инфраструктуры, на базе которой она функционирует, доступные из сети «Интернет», а также их доменные имена (п. 2.14).

Упоминание ИИ в п. 3.1, касающегося сбора исходной информации, позволяет распространить целиком данный пункт на ПО с ИИ, а применяемый вид анализа «С1» прямо связывает такое ПО со следующим этапом – внешним анализом уязвимостей (п. 3.2). Этап внутреннего анализа уязвимостей по п. 3.3 пропускается. Этап оценки выявленных уязвимостей (п. 3.4) и правила документирования результатов анализа (п. 4) вновь применимы.

Методический документ «Состав и содержание мероприятий и мер по защите информации, содержащейся в информационных системах», утв. ФСТЭК России 12.04.2026

Следующий документ, по ощущениям, является хитом весны-лета текущего года, озадачивший немало айтишных голов. Анализировать и как-то суммаризировать 140-страничный текст бессмысленно, надо изучать все целиком. Вместе с тем, нас интересует только ИИ, поэтому все пути ведут в п. 3.18.

Но сначала общие вводные. П. 1.3 указывает, что данный Методический документ лишь детализирует мероприятия (процессы), которые подлежат реализации для достижения целей защиты информации и (или) обеспечения безопасности значимых объектов КИИ, а также определяет содержание мер по защите информации, принимаемых в информационных системах и на значимых объектах КИИ в соответствии с требованиями по защите информации. Какие это требования? Почти те же, что и указанные в п. 1.4 «Методики анализа защищенности информационных систем», утв. ФСТЭК России 25.11.2025:

• Приказ ФСТЭК России от 11 апреля 2025 г. № 117 «Об утверждении требований о защите информации, содержащейся в государственных информационных системах, иных информационных системах государственных органов, государственных унитарных предприятий, государственных учреждений» (ссылка);

• Приказ ФСТЭК России от 28.02.2017 № 31 – нет в открытом доступе, видимо, ДСП;

• Приказ ФСТЭК России от 25 декабря 2017г. № 239 «Об утверждении требований по обеспечению безопасности значимых объектов критической информационной инфраструктуры Российской Федерации» (ссылка);

• Приказ ФСТЭК России от 14 марта 2014г. (в тексте Методического документа снова указан 2013 год (?)) № 31 «Об утверждении требований к обеспечению защиты информации в автоматизированных системах управления производственными и технологическими процессами на критически важных объектах, потенциально опасных объектах, а также объектах, представляющих повышенную опасность для жизни и здоровья людей и для окружающей природной среды» (ссылка);

• Приказ ФСТЭК России от 18 февраля 2013г. № 21 «Об утверждении состава и содержания организационных и технических мер по обеспечению безопасности персональных данных при их обработке в информационных системах персональных данных» (ссылка).

Почему-то из перечня приказов выпал Приказ ФСТЭК России от 21 декабря 2017г. № 235 «Об утверждении требований к созданию систем безопасности значимых объектов критической информационной инфраструктуры Российской федерации и обеспечению их функционирования».

Субъектный состав (п. 1.4):

1. обладатели информации и заказчики по госконтракту на создание информационных систем (в общем – заказчики);

2. операторы информационных систем;

3. подрядные организации, которые собственно обрабатывают и хранят информацию, создают (развивают) и эксплуатируют информационные системы, а также обеспечивают защиту информации.

Увы, неясно, кто здесь строго госорган, а кто – коммерческая организация. Поэтому, надо полагать, все могут быть всеми, разве что госорган не может быть подрядчиком. А еще необходимо учесть п. 1.5, где указано, что документ применяется в ходе:

1. организации деятельности по защите информации, создания системы защиты информации и управления ею;

2. создания информационных систем, эксплуатации таких информационных систем и поддержания необходимого уровня защищенности;

3. оценки эффективности деятельности по защите информации и управления системой защиты информации;

4. аттестации информационных систем на соответствие требованиям по защите информации (обеспечению безопасности), проведения иных форм оценки соответствия информационных систем требованиям по защите информации и достаточности принимаемых мер по защите информации (обеспечению безопасности).

Теперь собственно п. 3.18 «Обеспечение защиты информации при использовании искусственного интеллекта (ИИ)», всего три с половиной страницы. Дословно цитировать положения пункта нет надобности, отметим только интересные моменты.

Требование к реализации обеспечения защиты заключается в том, чтобы посредством проведения соответствующих мероприятий при использовании систем ИИ должна быть исключена возможность нарушения конфиденциальности, целостности и доступности информации, обрабатываемой в системе ИИ, за счет действий внешних и, что примечательно, внутренних нарушителей.

При создании систем ИИ должна быть проведена оценка угроз безопасности информации, связанных с разработкой и эксплуатацией системы ИИ. Сведения об угрозах безопасности информации систем ИИ содержатся в соответствующем банке данных ФСТЭК России (ссылка).

По результатам оценки угроз безопасности информации должно быть разработано техническое задание (ТЗ), содержащее требования к реализации мер защиты информации в системе ИИ. Здесь привлекло внимание единственное на весь документ упоминание ТЗ. При этом ближе к концу пункта есть такое условие: «Требования к документированию: Не предъявляются». Остается непонятным, надо ли при составлении ТЗ руководствоваться ГОСТ Р 71752-2024 «Искусственный интеллект. Техническое задание. Требования к содержанию» или достаточно ГОСТ 34.602-2020 «Информационные технологии. Комплекс стандартов на автоматизированные системы. Техническое задание на создание автоматизированной системы»?

Еще момент. В «Методике анализа защищенности информационных систем», утв. ФСТЭК России 25.11.2025, имеется п. 2.4, предусматривающий основание для проведения работ по анализу уязвимостей: это либо договор, либо внутренний организационный документ (приказ, распоряжение и др.). Как обстоит дело в рассматриваемом документе? В п. 1.4 сказано следующее:

Методический документ предназначен для обладателей информации, заказчиков, заключивших государственный контракт на создание информационных систем (далее - заказчики), операторов информационных систем (далее - операторы), а также организаций, которым на основании договора или иного документа передается информация, предоставляется доступ к информационным системам оператора (обладателя информации)…

Таким образом, упоминаются госконтракт, договор и некий иной документ.

В п. 3.16 «Обеспечение защиты информации при взаимодействии с подрядными организациями (ЗП)» трижды приводится конструкция «договоры или иные документы». Справедливости ради надо сказать, что просто «договор» в этом же пункте упоминается еще три раза. Под договором можно принять и госконтракт. А можно ли под иным документом понимать внутренний распорядительный документ организации? Ведь если глянуть субъектный состав в п. 1.4, то из него не следует, что защитой информации может заниматься структурное подразделение организации-заказчика. Т.е. организация не может разработать сама себе ИИ-систему и осуществить защиту информации, содержащейся в этой системе, так получается? Вероятно, ответ надо искать в одном из приказов, указанных в п. 1.3. Впрочем, какого-то запрета на реализацию мероприятий и мер по защите информации, содержащейся в информационных системах, своими силами и применительно к своим же собственным системам, Методический документ не содержит, равно как нет и обязанности привлекать стороннего подрядчика.

Вернемся к ТЗ и зададимся вопросом, к какому документу оно может (или должно) быть приложено? Конструкция «договор или иной документ» отвечает на это: если защитой информации занимается сторонняя организация, то ТЗ прилагается к договору, если собственное структурное подразделение – то к приказу или распоряжению по организации.

Далее, описание в п. 3.18 условно делится на три блока:

1) обеспечение защиты при разработке ИИ-системы (перечень объектов, подлежащих защите, дополнительные меры защиты в информационной инфраструктуре разработки, мероприятия применительно к наборам обучающих данных, требование проведения анализа уязвимостей при использовании входной модели ИИ);

2) то же самое при эксплуатации ИИ-системы (свой перечень объектов, подлежащих защите, меры защиты информации, направленные на предотвращение несанкционированного доступа или воздействия на ИИ-систему в случае применения технологии ИИ в составе информационной системы оператором (обладателем информации), дополнительные меры защиты информации, мероприятия, если в системе ИИ осуществляется обработка персональных данных граждан Российской Федерации);

3) требования к усилению предпринятых мер защиты.

Все это подлежит вдумчивому изучению. Основная идея: разработчикам ИИ-системы предстоит изолировать все ото всего. Не буквально, конечно. В этом отношении несколько смущает упоминание системы ИИ в единственном числе, например:

Дополнительно в информационной инфраструктуре разработки должны быть обеспечены: выделение информационной инфраструктуры разработки системы искусственного интеллекта от иной инфраструктуры разработчика, не связанной с разработкой данной системы, в отдельный изолированный сегмент; …

А если организация разрабатывает две ИИ-системы, то не только сами системы необходимо разложить по разным полочкам, но и инфраструктуру изолировать одну от другой? Т.е. на две системы – четыре сегмента? Инфраструктура, не связанная с разработкой ИИ-системы, отдельно, хранение обучающих данных – в обособленном хранилище.

В перечне требований к усилению в подпункте 1 сказано следующее:

…должно быть обеспечено выделение информационной инфраструктуры разработки от иной инфраструктуры разработчика, не связанной с разработкой данной системы, в отдельный физически изолированный сегмент; …

Из этого положения исходят два следствия:

▪ по отдельным физическим сегментам (т.е., как минимум, это должны быть разные HDD и/или SDD, а в идеале – разные серверы и даже разные локальные сети) необходимо размещать только инфраструктуру разработки («…данной системы…» – единственное число);

▪ все остальное, в частности, наборы данных, могут быть размещены физически в одном месте (даже на одном диске одного сервера), но виртуально изолированно.

Так или иначе, положения пункта 3.18 не выглядят невозможными, но не без шероховатостей в тексте, над которыми стоит хорошенько подумать.

Приказ ФСТЭК России от 11.04.2025 № 117 «Об утверждении требований о защите информации, содержащейся в государственных информационных системах, иных информационных системах государственных органов, государственных унитарных предприятий, государственных учреждений»

Данный Приказ рассматривается в редакции Приказа ФСТЭК России от 08.05.2026 № 137, которым были внесены изменения, вступившие в силу 01.09.2026.

Требования, устанавливаемые рассматриваемым приказом, применяются для обеспечения защиты (некриптографическими методами) информации, предотвращения несанкционированного доступа к информации, специальных воздействий на информацию (носители информации) в целях ее добывания, уничтожения, искажения, блокирования доступа к информации, содержащейся в функционирующих на территории Российской Федерации государственных информационных системах, иных информационных системах государственных органов, государственных унитарных предприятий, государственных учреждений (п. 1). Т.е. в рамки данных требований попадают только ИС госорганов (скорей всего, сюда уверенно можно включить и органы власти субъектов Федерации), ГУП и ГУ, а также такие ИС, которые можно назвать государственными (очевидный пример – портал «Госуслуги»). П. 3 ориентирует защиту информации в муниципальных ИС также осуществлять с опорой на Требования, покуда не будет принят соответствующий закон.

Основное действующее лицо – оператор (обладатель информации), которое является либо госорганом, само управляет своей ИС и таким образом является ее оператором, либо сторонней организацией, которой по госконтракту передана информация для ее защиты (пункты 2, 9, 11, 13, 73).

При этом п. 16 допускает еще одного актора: подрядную организацию, которая может быть коммерческим юридическим лицом. Такой организации может быть предоставлен доступ к ИС оператора (обладателя информации) и (или) содержащейся в них информации для оказания услуг, проведения работ по обработке, хранению информации, созданию (развитию), обеспечению эксплуатации ИС, а также для выполнения работ, оказания услуг по защите информации.

Таким образом, цепочка лиц, задействованных в защите информации, может состоять из одного, двух или трех звеньев: 1) обладатель информации, являющийся госорганом, сам же и управляет своей ИС, 2) обладатель информации передал все задачи оператору, 3) оператор переданные ему обладателем информации задачи реализует через привлечение подрядчиков/исполнителей.

В п. 11 упоминается банк данных угроз ФСТЭК России (ссылка), на основе которой оператором (обладателем информации) определяются негативные последствия (события), которые могут повлиять на достижение целей защиты информации.

В п. 34 Требований встречается первое упоминание ИИ:

Для достижения целей защиты информации оператором (обладателем информации) должны проводиться следующие мероприятия: … т) обеспечение защиты информации при использовании искусственного интеллекта

Далее, ИИ встречается в п. 49, но уже в другом смысле, не как объект, а как инструмент:

В ходе проведения мониторинга информационной безопасности для анализа зафиксированных событий безопасности и выявленных в них признаков реализации актуальных угроз допускается использование доверенных технологий искусственного интеллекта

Наконец, очень много «искусственного интеллекта» в п. 60 и п. 61 Требований.

П. 60 требует от оператора (обладателя информации) путем осуществления мероприятий по обеспечению защиты информации для функционирования ИИ-систем обеспечить исключение несанкционированного доступа к информации или воздействия на ИС, несанкционированного распространения и модификации информации, а также использования ИС не по назначению за счет неправомерного воздействия на наборы данных, применяемые ИИ-модели, процессы и сервисы по обработке данных и поиску решений. Положение пункта также не допускает передачу разработчику ИИ-модели информации ограниченного доступа, даже для благой цели улучшения функционирования модели.

П. 61 регулирует контроль пользовательского взаимодействия с ИИ-сервисами. Судя по содержанию, подпункт «а» – это о чат-ботах; подпункт «б» – о различных GPT и может быть в целом о LLM. Пожалуй, на подпункт «в» следует обратить пристальное внимание, поскольку на первый взгляд он невыполним:

При взаимодействии пользователей в целях выполнения ими своих обязанностей (функций) с сервисами на основе искусственного интеллекта посредством направления запроса и получения ответа должны быть: …

в) разработаны статистические критерии для выявления недостоверных ответов искусственного интеллекта для последующего сбора и анализа недостоверных ответов

Обязанность есть, а как это реализовать разработчику придется решать самостоятельно.

Методический документ «Методика оценки уровня зрелости деятельности в области технической защиты информации в информационных системах и обеспечения безопасности значимых объектов критической информационной инфраструктуры Российской Федерации», утв. ФСТЭК России 07.08.2026

В Методическом документе «искусственный интеллект упоминается лишь один раз, в п. 12:

Оценка уровня зрелости проводится по следующим направлениям деятельности (областям оценки): … 19) защита информации при использовании искусственного интеллекта

Как следует из названия, а также п. 2 и п. 3 документа, данная Методика определяет порядок и применяется для оценки уровня зрелости деятельности в области защиты информации (обеспечения безопасности значимых объектов КИИ), требования к которой установлены ФСТЭК России.

Требования все те же:

• Приказ ФСТЭК России от 11 апреля 2025 г. № 117 «Об утверждении требований о защите информации, содержащейся в государственных информационных системах, иных информационных системах государственных органов, государственных унитарных предприятий, государственных учреждений» (ссылка);

• Приказ ФСТЭК России от 28.02.2017 № 31 – не в открытом доступе, ДСП;

• Приказ ФСТЭК России от 25 декабря 2017г. № 239 «Об утверждении требований по обеспечению безопасности значимых объектов критической информационной инфраструктуры Российской Федерации» (ссылка);

• Приказ ФСТЭК России от 14 марта 2014г. (в тексте Методики снова указан 2013 год) № 31 «Об утверждении требований к обеспечению защиты информации в автоматизированных системах управления производственными и технологическими процессами на критически важных объектах, потенциально опасных объектах, а также объектах, представляющих повышенную опасность для жизни и здоровья людей и для окружающей природной среды» (ссылка);

• Приказ ФСТЭК России от 18 февраля 2013г. № 21 «Об утверждении состава и содержания организационных и технических мер по обеспечению безопасности персональных данных при их обработке в информационных системах персональных данных» (ссылка).

П. 4 определяет, кем применяется Методика:

• операторами ИС, владельцами значимых объектов КИИ;

• подрядными организациями;

• государственными органами, организациями, в том числе субъектами КИИ, являющимися заказчиками услуг, работ;

• собственно ФСТЭК России;

• операторами ИС персональных данных.

За счет упоминания ИИ в п. 12 вся методика целиком потребует изучения и применения.

Проект приказа ФСТЭК России «О внесении изменений в требования о защите информации, содержащейся в государственных информационных системах, иных информационных системах государственных органов, государственных унитарных предприятий, государственных учреждений, утвержденные приказом Федеральной службы по техническому и экспортному контролю от 11 апреля 2025 г. № 117»

Проект приказа предполагает внесение изменений в пункты 14, 49, 60 и 61 указанного документа.

П. 14 определяет, что должна в себя включать организация деятельности по защите информации; пп. «д» содержит перечень внутренних регламентов по защите информации, подлежащих разработке и утверждению, в котором на текущий момент указано 17 позиций! Рассматриваемый проект добавляет в перечень еще одну: порядок защиты информации при использовании искусственного интеллекта.

В п. 49 ИИ упоминается как инструмент мониторинга:

В ходе проведения мониторинга информационной безопасности для анализа зафиксированных событий безопасности и выявленных в них признаков реализации актуальных угроз допускается использование доверенных технологий искусственного интеллекта <17>.

<17> Подпункт "ц" пункта 5 Национальной стратегии развития искусственного интеллекта

Проектом приказа из формулировки пункта исключается слово «доверенных», а ссылка на пп. «ц» п. 5 Национальной стратегии развития искусственного интеллекта до 2030 года (понятие «доверенные технологии искусственного интеллекта») заменяется ссылкой на пп. «а» этого же пункта (понятие «искусственный интеллект»).

Следует заметить, что понятие «доверенные технологии искусственного интеллекта» присутствует только в Национальной стратегии. Еще в России с 01.03.2021 действует ГОСТ Р 59276-2020 «Системы искусственного интеллекта. Способы обеспечения доверия. Общие положения», в котором есть термины «доверие к системе искусственного интеллекта» и «доверенная система искусственного интеллекта». Так вот, это все не одно и то же! Поэтому с «доверенными технологиями искусственного интеллекта» на текущий момент ничего непонятно, кроме того, что они где-то есть.

П. 60, первый абзац:

И да, здесь появились интеллектуальные агенты! Так сказать, с почином всех причастных...

П. 60, второй абзац, в текущей редакции выглядит так:

Не допускается передача лицу, разработавшему модель искусственного интеллекта, информации ограниченного доступа, содержащейся в информационных системах, в том числе для улучшения функционирования модели искусственного интеллекта

Так вот – забыли. Предлагаемая новая редакция:

При применении моделей искусственного интеллекта оператором (обладателем информации) информационной системы должны быть реализованы мероприятия и меры защиты информации в соответствии с настоящими Требованиями, в том числе выделение моделей искусственного интеллекта в отдельный сегмент информационной системы или информационно-телекоммуникационной инфраструктуры, если информационная система функционирует на базе информационно-телекоммуникационной инфраструктуры (далее - выделенный сегмент).

Привилегированный доступ пользователей в выделенный сегмент должен осуществляться с использованием усиленной многофакторной аутентификации.

В выделенном сегменте должен быть реализован контроль доступа пользователей к моделям искусственного интеллекта и наделение их минимальными правами доступа, необходимыми для выполнения возложенных на пользователей функций.

Проводимые мероприятия должны включать регистрацию и анализ действий пользователей при доступе в выделенный сегмент.

В случае применения моделей искусственного интеллекта для обработки информации ограниченного доступа и (или) для реализации значимых функций оператора (обладателя информации) информационной системы дополнительно должны быть реализованы следующие меры:

контроль доступа пользователей к моделям искусственного интеллекта;

фильтрация входных данных (запросов) и выходных данных (ответов) моделей искусственного интеллекта;

квотирование (ограничение) количества входных данных (запросов) пользователей к моделям искусственного интеллекта;

ограничение и контроль функциональности моделей искусственного интеллекта.

Реализация мер защиты информации моделей искусственного интеллекта обеспечивается путем применения программного обеспечения, входящего в состав информационной системы, и (или) отдельных средств защиты моделей искусственного интеллекта»

П. 61 также кардинально изменяется, фактически полностью новый текст. В текущей редакции положение регулирует контроль пользовательского взаимодействия с ИИ-сервисами, новая редакция сосредоточена на мерах защиты информации:

При применении агентов искусственного интеллекта, в том числе автономных агентов искусственного интеллекта, оператором (обладателем информации) информационной системы должны быть приняты меры защиты информации, направленные на предотвращение несанкционированного воздействия на ресурсы информационной системы, а также контроль и управление правами доступа агентов в соответствии с внутренними стандартами и регламентами по защите информации.

При использовании в информационных системах сервисов на основе моделей искусственного интеллекта осуществляемые подрядной организацией мероприятия и меры защиты информации устанавливаются во внутренних стандартах и регламентах по защите информации

Проект Приказа ФСТЭК России «Об утверждении Состава и содержания организационных и технических мер по обеспечению безопасности персональных данных при их обработке в информационных системах персональных данных»

Проект приказа должен будет заменить одноименный действующий Приказ ФСТЭК России от 18.02.2013 № 21 (ссылка).

В тексте проекта «искусственный интеллект» встречается единожды, в п. 11:

Для обеспечения безопасности персональных данных при их обработке в информационных системах оператором реализуются: … защита информации при использовании искусственного интеллекта

Но это не единственное изменение. Можно просто посмотреть на объем: текущий приказ – 15 страниц, проект нового приказа – всего 7. Соответственно, если приказ будет принят, то изучать его положения и применять на практике придется с чистого листа. В связи с этим целесообразно обратить внимание на п. 12 о мерах по обеспечению безопасности персональных данных, п. 15 о дополнительных мерах защиты, а также на п. 18 с отсылкой к ГОСТ Р 51583-2014 «Защита информации. Порядок создания автоматизированных систем в защищенном исполнении. Общие требования».

Вместо заключения. Указанный обзор не является юридическим заключением, потому там нет каких-то ответов, скорее, еще больше вопросов. Да такой задачи и не ставилось. Это ориентировка, узнать, что нового появилось в регулировании, если вдруг кто-то что-то пропустил. Смотрим документы, применяем на себя, задаем вопросы, ищем ответы.