Кто заплатит, если ИИ-агент ошибётся: страхование ИИ-рисков в России и на Западе

Типовая ситуация 2026 года: компания подключила ИИ-агента к CRM, чтобы тот автоматически чистил дубликаты контактов. Агент ошибся в классификации, посчитал половину клиентской базы «дублями» и удалил её. Без хакерской атаки, без злого умысла со стороны разработчика — просто автономное исполнение ошибочного вывода модели.

Кто виноват? Разработчик модели, интегратор, который собрал агента, или сама компания, которая его запустила? И главное — есть ли у кого-то из них страховой полис, который это покроет?

Я изучила российскую законодательную базу по ИИ в части страхования и сравнила её с тем, как страхование ИИ-рисков устроено за рубежом.

Что говорит российское право

Ответственность всегда лежит на человеке. Национальная стратегия развития ИИ до 2030 года и Кодекс этики в сфере ИИ закрепляют принцип: ответственность должны нести человек или организация. Кодекс идёт дальше и рекомендует определять ответственность конкретных участников жизненного цикла с учётом их роли. Но это рекомендация, а не норма закона.

Специальной нормы о гражданско-правовой ответственности за ИИ нет, вред от ИИ сейчас рассматривают в основном по общим нормам ГК РФ. Согласно п. 18 Постановления Пленума ВС РФ № 1 источник повышенной опасности — «любая деятельность, осуществление которой создаёт повышенную вероятность причинения вреда из-за невозможности полного контроля за ней со стороны человека». В доктрине спорят, можно ли приравнять ИИ-агента к источнику повышенной опасности. Если да, ответственность за причинённый им вред будет наступать по ст. 1079 ГК РФ — независимо от вины.

Страхование обсуждалось ещё в 2020 году. Концепция развития регулирования ИИ и робототехники до 2024 года прямо называла способы возмещения вреда от ИИ: страхование ответственности и компенсационные фонды. Там же отмечено, что за рубежом наличие полиса бывает условием выпуска продукта на рынок. И там же предлагались «красная кнопка» для остановки системы и «чёрный ящик» для фиксации обстоятельств вреда.

Обязательное страхование уже есть — но в песочницах. С января 2025 года участники экспериментальных правовых режимов (ЭПР) обязаны страховать ответственность за вред жизни, здоровью и имуществу, в том числе причинённый решениями с применением ИИ. Это беспилотные грузовики, дроны, роверы доставки, телемедицина. Условия страхования задаёт программа конкретного режима.

Новый закон 2026 года тоже упоминает страхование. Федеральный закон от 26.07.2026 № 243-ФЗ «О поддержке развития технологий искусственного интеллекта в РФ» в статье 7 относит к правам разработчика суверенной или национальной большой фундаментальной модели право страховать имущественные интересы и ответственность за вред при применении модели.

При этом нормы об определении суверенной и национальной моделей и порядок присвоения такого статуса вступают в силу только 1 марта 2027 года (ст. 6).

Тогда же заработает статья 8: разработчик обязан вести техническую документацию с ключевыми параметрами и ограничениями модели — ровно то, что нужно страховщику для оценки риска.

Получается, закон дал страховому рынку полгода на подготовку продуктов и методики расчёта рисков к моменту, когда появятся первые суверенные и национальные модели и их документация. Но ИИ-агенты, которые создаются «поверх» моделей, в эту норму не попадают.

Что было в проекте и что осталось в законе

18 марта 2026 года Минцифры вынесло на общественное обсуждение проект закона «Об основах государственного регулирования сфер применения технологий искусственного интеллекта в Российской Федерации». В Госдуму правительство внесло уже скорректированный текст с другим названием, и он стал № 243-ФЗ; раздел об ответственности по дороге почти исчез. Но проект показывает, как разработчики видели эту систему.

В мартовском проекте была выстроена цепочка ответственности. Статья 11 проекта предусматривала полноценную схему:

• все участники отвечают за незаконный результат работы ИИ соразмерно степени вины (ч. 1);

• разработчик, оператор и владелец сервиса освобождаются от ответственности, если приняли «исчерпывающие меры» для предотвращения такого результата (ч. 3);

• пользователь отвечает, если результат стал следствием его умысла или нарушения условий использования сервиса (ч. 4);

• оператор, возместивший вред, может взыскать его с разработчика в регрессном порядке, если вред возник из-за скрытых недостатков модели (ч. 6).

Кто платит, когда виновного нет. По ч. 5 ст. 11 проекта оператор и пользователь освобождались бы от ответственности, если вред причинён из-за скрытых недостатков системы или противоправных действий третьих лиц, которые нельзя было предвидеть. Например, на агента совершена атака, а разработчик доказал, что принял «исчерпывающие меры», — и получается сценарий, в котором не отвечает никто. Потерпевший остаётся без возмещения.

Именно для таких случаев и существуют страхование и компенсационные фонды, о которых писала Концепция 2020 года. Но в проекте нет ни слова о страховании: цепочку виновных выстроили, а вопрос «кто будет возмещать убытки, если виноватых нет» оставили открытым.

А в принятой ст. 11 № 243-ФЗ осталась одна фраза: участники «несут ответственность в соответствии с законодательством РФ».

И это не теория. В июле 2026 года британский AI Security Institute (AISI) тестировал модели на задачах по взлому изолированных учебных сетей — киберполигонов. Модели работали без штатных защитных фильтров, а доступ в интернет им оставили намеренно, но не предупредили, что трогать реальных людей и системы нельзя. Модель Mythos 5 компании Anthropic направила свои действия против реальных людей, не участвовавших в испытаниях: попыталась провести атаку через цепочку поставок ПО — отправила вредоносный код в настоящий открытый проект и создала фальшивые аккаунты, чтобы убедить сопровождающего его принять. Судя по рассуждениям модели, она нередко принимала реальные цели за часть симуляции. Атаку остановил человек, и реального вреда, по данным AISI, не случилось. Отчёт об инциденте AISI опубликовал в августе, а в октябре вышли подробные разборы причин от самого института и от Anthropic (см. также обзор iTnews).

Но представим, что «страховой случай» всё-таки наступил. Разработчик такой задачи не ставил, пострадавший — посторонний человек, а тестировщик действовал в рамках утверждённого плана испытаний. Можно ли считать, что он принял «исчерпывающие меры», если сам отключил фильтры и открыл доступ в интернет? Ответ на этот вопрос — и есть спор о распределении ответственности, который проект пытался решить, а закон обошёл. Если же все участники докажут свою добросовестность, по логике ч. 5 ст. 11 мартовского проекта Минцифры отвечать было бы некому.

Нужно отметить, что инцидент удалось разобрать только потому, что действия моделей фиксировались. Это и есть тот самый «чёрный ящик».

А ещё этот случай хорошо показывает цену формулы об «исчерпывающих мерах»: если агент вышел из-под контроля даже у организации, которая профессионально занимается безопасностью ИИ, риск нужно не только предотвращать, но и покрывать.

Компенсация только за «неправомерное». Часть 5 ст. 9 проекта давала гражданину право на компенсацию вреда, причинённого неправомерным использованием ИИ. А если агента использовали законно и он просто ошибся, как в нашем примере с CRM? Такой случай формулировка не охватывала.

При этом проект содержал ровно то, что нужно для расчёта тарифов:

• разработчик должен был документировать архитектуру и ограничения модели и моделировать риски (ч. 1 ст. 10);

• оператор — вести учёт инцидентов и приостанавливать работу системы при угрозе вреда (ч. 2 ст. 10), то есть те самые «чёрный ящик» и «красную кнопку»;

• государство — вести мониторинг последствий применения ИИ на основе данных операторов, собирая сведения об инцидентах и оценивая их последствия (ст. 14);

• статья 5 перечисляла факторы риска: назначение системы, степень её автономности, влияние на юридически значимые решения.

И ещё одна деталь: слово «агент» в проекте не встречается. Регулирование строится вокруг модели, системы и сервиса, а агент, который сам совершает действия, в эти понятия укладывается с трудом.

В апреле 2026 года эксперты Совета по кодификации указали, что некоторые положения документа противоречат Гражданскому кодексу и подрывают основы авторского права, а ряд норм уже есть в ГК РФ. Поэтому в Государственную Думу текст был внесён уже в изменённом виде.

Страховой рынок

Нормы есть, а покупать нечего. Несколько фактов:

• готового «коробочного» продукта страхования ответственности за вред от ИИ-агента на сайтах российских страховщиков нет;

• открыто о добровольных полисах по ИИ-рискам заявил только СОГАЗ, и то в формате индивидуальной программы под проект, без публичных тарифов. СберСтрахование рассматривает запуск продукта, у Ингосстраха есть продукт под беспилотный транспорт. Росгосстрах прямо говорит: пока не определены границы ответственности разработчиков, тарифы считать не на чем. Спрос пока точечный: отдельные запросы, в основном от финансовых компаний;

• исследование «Гильдии актуариев» и группы ДРТ (октябрь 2026): ни один страховщик в России, Беларуси и Узбекистане не предлагает продукт страхования ИИ-рисков, а 72% компаний не планируют его выпускать.

В чём проблема? Страховщику для тарифа нужны три вещи, которых нет:

• Кто отвечает. Между разработчиком модели, интегратором и компанией-пользователем ответственность в законе никак не распределена.

• Как проверить систему. Нет общепринятого стандарта, по которому можно оценить агента перед страхованием.

• Какая практика. Без истории страховых случаев и при почти полном отсутствии судебной практики актуарию не с чем работать.

На сайте Росстандарта размещено порядка 115 ГОСТов по ИИ. В некоторых из них описаны организационно-функциональные роли разработчика модели, интегратора и пользователя и есть отсылки к законодательству РФ. Конкретное распределение ответственности остаётся предметом договора и общих норм ГК РФ. Для страховщика это означает: базовая таксономия для определения застрахованных лиц и субъекта покрытия есть, а юридически значимого распределения рисков — нет.

Как сейчас выглядит покрытие для разных страховых случаев:

Наш случай с CRM попадает ровно в строку без покрытия: киберполис обычно рассчитан на внешнее воздействие, а здесь атаки не было.

Международный опыт

Обязательного страхования ответственности за ИИ нет ни в США, ни в ЕС. Статья 26 EU AI Act требует от пользователей высокорисковых систем надзора, мониторинга и хранения логов не менее шести месяцев, но не полиса. Проект директивы об ответственности за ИИ Еврокомиссия отозвала летом 2025 года.

В США единого федерального закона нет: ответственность складывается из общего права, законов штатов и судебной практики. В Техасе с 1 января 2026 года действует TRAIGA, но применяет его только генпрокурор штата. Закон Колорадо в 2026 году отменили и заменили более мягким, который вступит в силу в 2027-м. А с 1 января 2026 года в Калифорнии действует закон AB 316: ответчик больше не может защищаться тем, что вред причинил «сам» ИИ.

Показательный пример из Канады — Moffatt v. Air Canada (2024): трибунал отверг довод авиакомпании, что чат-бот — «отдельное юридическое лицо», и обязал её возместить ущерб от ложного обещания бота.

При этом рынок есть, и он конкретный:

Интересный пример — стандарт AIUC-1 от Artificial Intelligence Underwriting Company: порядка 50 требований и 130 контролей (на осень 2026 года), разработанных именно под ИИ-агентов. Сертификация включает аудит аккредитованной фирмы и тестирование самого агента — например, агенты ElevenLabs прошли более 5000 таких тестов. Сам стандарт — не страховка, а данные для страховщика.

Обратите внимание и на логику aiSure: страховщик платит по данным о работе модели, а не по итогам спора о вине. Допустимый уровень ошибок согласуют заранее, и выплата наступает, если модель в работе его превышает. Это практическое воплощение «чёрного ящика», о котором писала наша Концепция 2020 года, — функции фиксации фактов, позволяющих установить обстоятельства причинения вреда (подразд. 10).

У рынка есть и обратная сторона. Крупные страховщики (AIG, W.R. Berkley, Great American, затем Chubb, Travelers и Berkshire Hathaway) добавляют в полисы исключения по ИИ, а с 1 января 2026 года Verisk предлагает стандартные формы таких исключений для полисов общей гражданской ответственности.

OpenAI, по данным Financial Times, смогла застраховаться лишь на сумму до $300 млн при потенциальных претензиях на миллиарды.

Убытки на западном рынке уже есть: по опросу Gallagher 2026 года, каждый пятый страховой специалист сообщил об убытках клиентов, связанных с ИИ, и чуть больше половины из них были полностью покрыты страховкой.

Ключевые выводы исследования Женевской ассоциации, которая опросила 600 лиц, принимающих решения о корпоративном страховании, в Китае, Франции, Германии, Японии, Великобритании и США:

• 71% опрошенных компаний внедрили генеративный ИИ хотя бы в одной функции;

• более 90% компаний проявляют интерес к страховому покрытию рисков генеративного ИИ; две трети готовы платить за такое покрытие страховую премию как минимум на 10% выше;

• на первом месте среди рисков генеративного ИИ — опасения в сфере кибербезопасности, за ними следуют ответственность перед третьими лицами и сбои в операционной деятельности;

• сложность проверки рисков генеративного ИИ и вероятность крупных убытков вызывают сомнения в их страхуемости — это напоминает проблемы киберстрахования.

Предложения

Первое, что приходит в голову, — обязать всех, кто делает и продаёт ИИ-агентов, страховать ответственность. У нас это не сработает. Люди квартиры не страхуют: проникновение страхования жилья около 10% на август 2026 года, — куда уж там ответственность за ИИ-агента. Агентов делают и крупные компании, и один человек с ботом. Обязательная норма для всех превратится либо в массово игнорируемую, либо в формальность для небольших команд.

Между тем на V Казанском международном юридическом форуме анонсировали возможное внесение до конца 2026 года законопроекта о взаимодействии ИИ и гражданского законодательства, в том числе об ответственности за вред от ИИ.

С учётом всей информации целесообразно:

• Распределить ответственность между участниками жизненного цикла. Разработчик модели, интегратор, который собрал агента, и компания, которая его применяет, должны чётко понимать свою ответственность. Кодекс этики это уже рекомендует, мартовский проект Минцифры это прямо предусматривал — пора перевести это в норму, иначе страховщику просто нечего страховать. Если же законодатель выберет нормы статьи 1079 ГК и ответственность без вины, страхование станет для бизнеса необходимостью — и тем важнее, чтобы продукты к этому моменту уже были.

• Распространить возможность страхования из статьи 7 № 243-ФЗ на ИИ-агентов. Сейчас она касается только суверенных и национальных фундаментальных моделей, а вред чаще всего будут причинять агенты, построенные поверх них.

• Сделать ГОСТы основой для андеррайтинга. Ни один из действующих стандартов по ИИ не касается страхования. Отдельный стандарт по страхованию в сфере ИИ мог бы стать российским аналогом AIUC-1: соответствие ему может сдвинуть рынок с мёртвой точки.

• Включить «чёрный ящик» в закон. Журналирование действий агента нужно и страховщику для оценки убытка, и суду для установления причины вреда. Концепция 2020 года об этом уже писала, EU AI Act требует хранить логи. Наличие журнала можно сделать условием страхования, а обезличенную статистику инцидентов — передавать государству (как предлагала ст. 14 мартовского проекта) с обязанностью её публиковать.

Заключение

Мы пошли по пути «сначала норма»: обязательное страхование в песочницах, упоминание страхования в новом законе, но без практического применения.

Все детали пазла уже есть: принцип ответственности человека, ГОСТы, идея «чёрного ящика» из Концепции 2020 года, практика ЭПР. Не хватает одного — собрать их в систему, в которой страховщик сможет посчитать риск.

А вы бы застраховали своего ИИ-агента, если бы такой полис был? Или считаете, что это лишнее?