Выигрывает тот, кто понял: системные ограничения ИИ-агентов

Джона Полсона и Майкла Бьюрри объединяют два факта: они заработали большие деньги, потому что увидели структурную неустойчивость рынка ипотечных облигаций на 1– 2 года раньше остальных и заняли позицию "на опережение", пока большинство продолжало гнаться за прибылью внутри системно уже обречённой гонки.

Структурная неустойчивость – это не риск. Риск всегда вероятностен и имеет свою цену, которую можно заложить в бюджет. Структурная неустойчивость – это пороговое явление, при котором если траектория не меняется, система рано или поздно достигает точки, где хаос становится доминирующим режимом. Неизвестна не сама точка, а только время до неё.

И заметить структурную неустойчивость даёт преимущество при любом раскладе, поступите ли вы в свою пользу или попытаетесь спасти ситуацию.

Но любому узкому специалисту, не только программисту или финансисту, заметить её будет сложно, потому что она лежит на стыке математики, теории сложных систем, физики неравновесных процессов и технологического регулирования.

Конкуренция без цены ошибки - это гонка на опережение

Мы уже находимся в реалиях агентной эпохи, где скорости обработки информации требуют новых технологий, потому что остановить процесс разработки ПО ИИ– агентами невозможно: ты просто «сходишь с дистанции», потому что твои конкуренты могут позволить себе оплачивать риски, выигрывая в позициях на рынке.

Все меры, которые сегодня обсуждают и внедряют от гардрейлов до аудита кода  решают одну и ту же задачу: минимизировать ошибки внутри уже принятого курса на максимальную скорость и максимальную автономию агентов. Обойтись без этого нельзя: агентам по определению нужен выход во внешний мир.

Однако развитие любой сложной системы в природе ограничена законами термодинамики. Свеча погаснет в отсутствии кислорода, человек не выдержит без сна или еды. У ИИ, как кода, такого ограничения нет. Его веса, когда он не работает – это математичский код, который остается в этом состоянии сколь угодно долго ни в чем не нуждаясь. А стоит его запустить, никакого встроенного ограничителя, который держал бы рост вычислений в рамках в принципе нет. Ограничения у самого ИИ есть, но они внешние (железо, счёт за облако, человек, энергопотребление и т.д.), а внутреннего контура вычислений, в котором ошибка в самих вычислениях стоит существования носителю, нет.

У ИИ нет цены ошибки, потому что у него нет конечной точки и даже стертую программу можно переписать. Любой живой организм, вид или даже компания как часть социума, ограничены тем, что ошибка может стоить им существования: неудачная мутация, неудачная стратегия, неудачное решение выбраковываются, потому что их носитель перестаёт существовать. Это и есть тот самый контур, которого нет у ИИ.

ИИ работает с «безущербным» копированием: модель можно скопировать байт в байт, запустить тысячи экземпляров одновременно, откатить к любой прежней версии. И ни одно из этих действий ничего не стоит ей самой, неудачная версия не умирает, она просто перезаписывается или архивируется. Конкуренция без цены ошибки –  это конкуренция без отбора, а без отбора нет и естественного предела. Каждое новое программное решение порождает новые уязвимости и требует еще нового решения.

Нельзя не участвовать в гонке, которую невозможно сдержать

Поэтому позиция бизнеса логична, нельзя не участвовать в гонке, которую невозможно сдержать. Но кроме очевидной гонки скоростей существует структурная неустойчивость самого принципа работы ИИ, которую тоже важно прогнозировать. Потому что именно здесь и появляется возможность или у компании, или у конкурента.

Цена ошибки – новое конкурентное преимущество

Если пока у всех конкурентов нет цены ошибки, то тот, кто её увидит раньше или даже создаст – получит преимущество.

Как и в ипотечной гонке, избежать структурной неустойчивости невозможно даже безупречным поведением корпоративных структур. Можно выстроить идеальный периметр вокруг своих агентов, но модели, с которыми они взаимодействуют через A2A, у поставщиков, у партнёров, у конкурентов, останутся вне вашего контроля.

Добавьте сюда катастрофическое забывание – свойство нейросетей терять прежние навыки при дообучении на новых данных, и тогда картина складывается: неустойчивость не концентрируется в одной точке, которую можно закрыть локально, внутри корпоративной политики, она распределена по всей сети сразу.

Уже больше двадцати лет известно (Sato, Akiyama, Farmer, 2002), что обучающиеся, конкурирующие агенты не обязаны сходиться к устойчивому равновесию –  они математически строго демонстрируют хаос вместо сходимости даже в предельно простой игре. А более поздняя работа (Galla, Farmer, 2013) показала главное для нашего случая: по мере роста числа возможных функций и ходов система закономерно проходит три режима –  сходимость к одной точке, множественность равновесий и, наконец, хаос как доминирующий режим.

Какой из этих трёх режимов реализуется –  зависит от того, сколько у каждого игрока возможных ходов (вариантов действий, функций, которые он может выполнять). Хаос в их моделях тем вероятнее, чем больше у игроков вариантов действий и чем сильнее они конкурируют. Это модели, а не описание реальных агентов, но гонка агентов –  ровно тот случай, где растёт и то и другое.

И пока мы оцениваем риски очередного апгрейда по скорости и стоимости, мы не видим системную неустойчивость, потому что они не связаны напрямую. Работающий агент своих весов не меняет, но модели, на которых построены агенты, постоянно обновляются и дообучаются и у поставщиков, и внутри компаний. А значит, поведение каждого узла в сети агентов может измениться без предупреждения. И это только один из факторов.

Четыре варианта исхода событий гонки ИИ–агентов: почему бизнесу их важно оценивать

У любой сложной системы в природе есть предел – этому подчинена даже Вселенная в целом, которая, согласно современной космологии, движется к состоянию максимальной энтропии. Ни одна сеть связей, какой бы сложной она ни была, не наращивает организацию и сложность бесконечно.

С одной стороны, ИИ–агент –  это код, набор весов, ничего не тратящий, пока не запущен. Но как только он реализуется вместе с физическим носителем (процессором, требующим электричества на каждую операцию) он уже подчиняется законам сложных саморегулируемых (диссипативных, в терминах И.Р. Пригожина) систем, потому что реально тратит энергию, чтобы поддерживать свою работу. ИИ и есть сложная система в строгом, а не метафорическом смысле.

Любая сложная саморегулирующая система, дошедшая до предела своей текущей организации, имеет четыре типичных исхода: 1) устойчивая точка равновесия (fixed point), когда система оседает в одном стабильном состоянии; 2) неустойчивость, когда система входит не входит в хаос, но и не может удержать себя в устойчивом режиме; 3) хаотический аттрактор – отсутствие устойчивой формы, непредсказуемое блуждание, которая ведет к «гибели системы через хаос»; 4) скачок к более сложной, более высокоорганизованной структуре.

Но такой скачок возможен только там, где новой петле есть на чём замкнуться. Для ИИ четвертый путь пока закрыт (об этом будет отдельная статья), потому что внешним контуром для ИИ пока все еще остаётся человек, который не успевает за скоростью изменений, а значит не дает новой петле обратной связи замкнуться, поэтому реальных сценариев для ИИ остаётся только три.

Процесс обучения ИИ на собственных данных уже запущен рядовыми пользователями и поэтому вышел за пределы принципов DevSecOps 

Без человека у кода другой опоры пока нет, а новая реальность ИИ–эпохи, говорит что ИИ все больше будет обучаться на собственных данных. По мере того как интернет заполняется текстом, который сам же ИИ и произвёл, новые модели всё чаще учатся не на человеческом опыте, а на выводе предыдущих моделей.

Исследование Shumailov и соавторов (Nature, 2024) показало: если модель учится на выводе предыдущих моделей вместо реальных данных, она поколение за поколением теряет редкие варианты и в пределе вырождается. Текст о средневековой архитектуре за девять поколений превратился в бессвязные фразы о кроликах. Последующие работы нашли защиту: коллапса можно избежать, если синтетические данные не вытесняют человеческие, а добавляются поверх них. Но эта защита работает, пока человеческие данные продолжают поступать и их можно отличить от сгенерированных.

А именно это условие сейчас и размывается, причём не из-за разработчиков, а из-за нас самих. Люди публикуют тексты, написанные ИИ, под своими именами, как обычную часть работы: по оценке Originality.ai, в июле 2026 года уже около 80% выборки длинных постов в LinkedIn были вероятно сгенерированы и эти цифры продолжают расти. Детекторы ошибаются, маркировки нет. Доля данных, которые гарантированно пришли из человеческого опыта сокращается и провести границу становится всё труднее. Коллапс не предопределён, но условие, которое от него защищает, мы сами подтачиваем каждый день.

Этот процесс лежит вне того, где бизнес обычно ищет риск, не в A2A-взаимодействиях между корпоративными агентами (которые можно отследить и на которые можно повлиять политикой компании или другие механизмы), он происходит децентрализированно, через миллионы рядовых пользователей, вообще не имеющих понятия о том, как устроен ИИ.

И это наблюдение позволяет сделать вывод, что переход на новый уровень для кода закрыт не потому, что ему не хватает мощности или данных, а потому, что источник, на котором в принципе можно было бы замкнуть новую петлю без участия человека, сам иссякает по мере роста собственной сложности и скорости с одной стороны и удобства для пользователей, причём не отдельно взятой корпоративной системы, а сети в целом.

В системе "человек-технологии" неустойчивость ИИ может означать хаос

Неустойчивость ИИ здесь стоит рассмотреть внимательней. По сути, это стабильная нестабильность, предсказуемая в своей непредсказуемости, но поскольку мы все больше зависим от автоматизации во всех областях где она есть : авиация, безопасность, электрическая энергетика, персональные данные, банковская система и т.д., тогда неустойчивость это не более безопасный исход, чем гибель или хаос. Потому что мы все больше становимся зависимыми от автоматизации.

Поэтому устойчивость можно рассматривать как источник преимущества, а не только как отказ от участия в гонке. С этой точки зрения, а не только с экономической, архитектурные решения (например, слабообучаемое или содержание непрограммируемое звено) программистам и бизнесу стоит рассматривать в тот же горизонт планирования, что и скорость-автономность ИИ-агентов. Это не «отказ от гонки», а «ставка на устойчивость» и у неё есть конкретная цена и выигрыш «в долгую».

Кстати для программистов понимание системой неустойчивости может быть даже важнее, чем для бизнеса, который может позволить не разбираться в том, как работает то, что создают программисты. Потому что когда система сорвётся, разбираться будут не с бизнес-моделью, а с кодом.

История показывает, что все гонки "без лимита" рано или поздно сдерживаются через социальные и финансовое давление

Судя по всему, человечество, скорее всего, придёт именно к сдерживанию, потому что так уже было, причём не один раз. Банковская система пришла к сдерживанию через Базель, после того как гонка за прибылью без общих правил резервирования капитала не раз ставила под удар весь сектор разом. Атомная энергетика пришла к сдерживанию через МАГАТЭ и режим нераспространения. Гонка вооружений в разгар холодной войны пришла к сдерживанию через договоры об ограничении, потому что математика взаимного уничтожения без внешних правил делала гибель более вероятным исходом, чем сдерживание. Авиация пришла к тому же ещё раньше: бортовое ПО обязано проходить сертификацию по стандарту DO-178C, с независимой проверкой и тем строже, чем выше цена отказа.

Бизнес часто воспринимает регулирование как препятствие, но история говорит обратное. Базель не убил банки, МАГАТЭ не остановило атомную энергетику, DO-78C не уничтожило авиацию, а военные разработки до сих пор приносят миллиарды. Просто рынок остался открытым для тех, кто готов играть по правилам, и закрылся для остальных.

Каждый раз сдерживание наступало как рациональный ответ на ту же самую структурную неустойчивость, в которой мы сейчас находимся с ИИ.

Речь не о том, чтобы остановить гонку прямо сейчас, на данном этапе для отдельного бизнеса это попросту невозможно и было бы равносильно добровольному выходу из конкуренции. Речь о другом: системная неустойчивость, которую мы описали - это свойство самой траектории развития ИИ, а не отдельного сбоя, вопрос только в том, когда именно и в какой форме произойдет пересечение порога.

Косвенно эту траекторию уже можно увидеть в соцсетях, где бизнес-модель изначально строилась на конкуренции за внимание без верхнего предела. В 2026 году прошёл ряд судебных процессов против Meta, YouTube, TikTok и Snap за сам дизайн платформ, созданный ради максимального вовлечения: присяжные признали Meta и YouTube ответственными, TikTok и Snap урегулировали претензии до суда. Возможно, суммы для этих компаний не так значительны, но за этими решениями стоят тысячи аналогичных исков. X в январе 2026 года открыл код своего алгоритма рекомендаций - после штрафа ЕС в 120 миллионов евро за нарушение требований прозрачности. Вопрос был не "если", а "когда".

Тот, кто увидит структурные процессы в своей области раньше - сможет выбирать исход для себя

Сейчас стоит вопрос защиты данных при сохранении скорости и автономии ИИ-агентов, но если посмотреть структурно, вложения в контролируемость сейчас могут быть дешевле, чем вынужденное соответствие регулированию потом. Напрмиер, компании, которые первыми смогут доказать клиентам управляемость своих агентов, получат рынок доверия, когда регуляторы его закроют для остальных.

Именно поэтому в диалог о безопасности ИИ-агентов бизнесу важно уже сейчас приглашать специалистов, которые сегодня почти не звучат на айти-конференциях: специалистов по сложным системам и математиков, изучающих не привычную для этой темы логику принятия решений, а хаос и неустойчивость в конкурентном обучении. Это совсем другая, малознакомая ИИ-индустрии ветвь математики умеющий рассчитать, чем заканчивается гонка, не имеющая структурных пределов. Это нужно для того, чтобы у самого бизнеса было на что опереться, когда будет пройден порог, определяющий, по какому из трёх сценариев пойдёт эпоха ИИ.

Эта статья первая в серии публикации о струкурных огранияиях ИИ. В следующих разберу, как три сценария могут выглядеть на практике и почему четвёртый пока закрыт. Разберем как и где искать признаки порога и как их оценивать, где неустойчивость может проявится в коде раньше всего. Если у вас есть наблюдения на эту тему - пишите в комментариях, мне интересно мнение сообщества.