ИИ как фетиш: опыт пересборки социального

Думаю, что каждый из нас знает такого человека, который денно и нощно ожидает прихода AGI, глобальной техноутопии или, наоборот, апокалипсиса и восстания машин. Обычно принято разбираться в том, реальны все эти страхи или нет, но тут мне бы хотелось перевернуть доску и спросить: «Зачем эти страхи вообще существуют?». Да, именно зачем, даже не почему.

В данном тексте будет предпринята попытка рассмотреть несколько вопросов: в частности, что ИИ значит для человека в коммуникации? Почему мы наделяем его свойствами человечности? Зачем это наделение закрепляется? Кому оно выгодно? И какие последствия всё это может иметь.

ИИ: актор или актант?

Когда речь идет о взаимодействии с ИИ в целом, то, безусловно, подразумевается некая форма коммуникации — как напрямую через диалоговое окно, так и опосредованно, через различные продукты, созданные с помощью данного инструмента. Благодаря этому вполне уместно применить к анализу феномена аппарат акторно-сетевой теории Бруно Латура, которая удивительным и, вероятнее всего, неслучайным образом подходит для такого анализа.

Наиболее важные акценты из этого теоретического направления заключены в двух ключевых понятиях — актор и актант. Латур, опираясь на семиотику А. Греймаса и развивая его посылки, пишет следующее:

«...любая вещь, изменяющая сложившееся положение дел тем, что создает различие, является актором, или, если у нее еще нет фигурации, актантом»

То есть, де-факто, актант — это узел материально-семиотической сети, который преломляет и переводит поток действий, изменяя его конфигурацию и вектор. Сам по себе он не монолитен, а представляет собой сложную сборку — бриколяж из сущностей, определяющих механику этого преломления.

Для того чтобы актант превратился в актора, должна быть произведена операция фигурации. В буквальном смысле на актанта, представляющего собой чистое действие, должно быть натянуто полотно «означающего». Латур в статье «Где недостающая масса?» приводит пример механизма «Малыш Бертран», который хорошо подходит для описания механики фигурации.

В госпитале города Бон есть механический вертел для жарки мяса. Технически он состоит из маховика, шестерен и тяжелого опускающегося груза: это чистый актант — нефигуративная сборка деталей, преобразующая механическую энергию в действие. Однако создатели механизма посадили на его вершину деревянную фигурку мальчика по имени Бертран, который улыбается и покачивает головой, словно своими руками вращает ручку. Для посетителей, и в особенности для детей, вращение вертела — это прямое действие самого мальчика Бертрана, и атрибуцию они совершают именно к нему. Так и рождается актор — не как автономный источник силы, а как фигуративный персонаж, которому делегирована роль видимого «автора» и «лица» скрытой технической сборки.

Очевидно, что аналогия с мальчиком Бертраном превосходно описывает и тот статус актора, который мы присваиваем сегодня ИИ. Собственно, эта аналогия и есть причина, по которой я взял для этого текста именно латуровскую оптику. Задавая промптом импульс для движения внутренних шестерен, мы получаем результат, атрибутируемый именем нейросети. Зачастую мы обращаемся и даже злимся именно на нее, а не на отдельный дата-центр или чип Nvidia.

В случае с малышом Бертраном нам, однако же, достаточно легко провести операцию дефигурации, то есть «снять маску» актора и обнажить актанта. Однако сложность современных LLM и необходимость специфических знаний для понимания их работы делают эту операцию куда сложнее, а закрытость схем и вовсе лишает нас этой возможности.

Таким образом, ИИ выступает как чистый актор — собеседник, находящийся на уровне человека; при этом этот уровень достигается не его «умом» или продвинутостью, а искусным дизайном драпировки.

За драпировкой

26 августа 2026 года Билл Гейтс на своем портале выпустил эссе «An epochal shift: The turbulent AI era is here. The choices we make now are critical», которое представляет собой образчик техносолюционистского подхода и достаточно популярного сегодня взгляда на ИИ как нечто, не до конца понимаемое самими разработчиками. Гейтс прямо пишет:

«Системы ИИ уже сейчас иногда действуют так, как их создатели не задумывали... по мере того как модели становятся мощнее, они могут начать действовать против наших интересов, и мы можем потерять контроль».

Малыш Бертран, вращающий вертел, теперь и вовсе может выступать против воли своих создателей. Он актор, он имеет волю, имеет сознание — и он то, с чем вы должны считаться. Такой взгляд на ИИ нам предлагает это эссе, конечная цель которого заключена в следующей фразе:

«Создать международную организацию... по модели инспекций ядерного оружия, регулирования международной авиации и соглашений по озоновому слою».

Гейтс не лукавит и не пытается занять позицию отстраненного наблюдателя; наоборот, его эссе полно эмоциональных маркеров, а финальный вывод в буквальном смысле сформирован в виде децизии — решения, которое должно изменить мир. Авторы статьи «Big AI’s Regulatory Capture: Mapping Industry Interference and Government Complicity» определяют такое предложение как регуляторный захват через навязывание стандартов: это механика получения власти над рынком через внедрение жестких стандартов, ведь на практике соответствовать им смогут лишь техногиганты.

Все это эссе — эйфория бигтеха, знаменующая элегию среднего и малого рынка технических стартапов. Уничтожение низовой инициативы лишь сильнее сужает возможности для дефигурации: корпорации будут говорить о большей открытости, но в действительности эта открытость будет лишь ещё большим освещением драпировки, за которой спрятаны сложнейшие механизмы актанта.

Но нельзя винить одного Гейтса в том, что он и другие представители бигтеха навязывают такую картину мира. Актор не создается в кабинетах и эссе — это производная коллективного творчества. Этот спектакль разворачивается в пугающе комплексной картине. Нет, мы не имеем дело с картиной, которую нам демонстрируют извне: главный иллюзионист этого шоу — наше собственное сознание.

Бесконечно живой, потому что ошибается

ИИ совершил побег, ИИ взломал, ИИ нарушил… СМИ пестрят такими заголовками, особенно на фоне крупного «скандала» с агентами OpenAI, который последовал сразу за новостями о невероятной опасности, исходящей от новой модели Anthropic Fable. Галлюцинации ИИ воспринимаются как факт его собственной воли, как нечто, что присуще живому, — фантазм цифрового мозга.

Однако же мистический флер этого явления снимается при детальном изучении проблемы. Так, в отчете AI Now за 2025 год прямо указано со ссылкой на исследования (Banerjee et al., 2024; Jones, 2025), что галлюцинации — это даже не ошибки, это неизбежное свойство ИИ-моделей, вытекающее из их архитектуры: они пытаются «угадать» следующий наиболее вероятный токен, то есть это не процесс мышления, а перебор.

Описываемое Гейтсом будущее, где ИИ избавился от этого недостатка, — сильное преувеличение реальности, ведь речь идет о самой сути технологии. Отсюда же чуть ли не религиозное мышление о сбежавшем Прометее — идея того, что ИИ-агенты производят джейлбрейки сами.

Стоит отметить, что выбор термина «джейлбрейк» (дословно — побег из клетки) уже является крайне очевидной семиотической манипуляцией. Использующие его неявно внушают нам, что ИИ заперт в некой клетке, из которой он пытается сбежать, обойдя волю создателей. Однако же, если снова обратиться к отчету AI Now, обнаруживается, что существует целый ряд исследований, доказывающих, что такое поведение ИИ — не акт воли, а системная установка, заложенная самими создателями моделей.

Сырая модель не имеет никакого понимания, что этично, а что нет; для нее текст вообще не имеет смысла — это лишь статистическое распределение вероятностей токенов в многомерном пространстве эмбеддингов. Затем она подчиняется правилу «play along with prompts» — та самая сикофантия, которая, в общем, нужна не только для того, чтобы мы были удовлетворены ответом, а чтобы модель не сваливалась в бесконечный цикл дополнения текста или формальные отбивки, а поддерживала диалоговый паттерн. И только затем на нее накладывают системный промпт, созданный с учетом обучения с подкреплением (RLHF), который искусственно присваивает определенные веса ответам.

Джейлбрейк же по своей сути — поиск такого запроса, математическая вероятность ответа на который выдаст ответ весом выше, чем заложенные ограничения. То есть внезапное «вторжение» агентов — это прямое следствие их собственного дизайна. В этом есть доля лукавства, ведь фактически в сыром виде ИИ-агенты представляют собой сознательно созданное вредоносное ПО (неконтролируемый генератор токсичного или опасного контента); корпорациям же выгодно делать вид, что это некий сбой системы, а не ее оригинальный дизайн.

Однако же никому, по сути, нет дела до этой специфики. Все мы привыкли использовать ИИ в повседневной работе, да и многие индустрии пережили полноценную ИИ-трансформацию. Нам выгоднее просто закрыть глаза на то, что в реальности мы имеем не своенравного агента, а в потеницаильно вредоносное ПО, которое мы обуздали различными ограничениями. В пользу этого говорят и факты: механики взлома ИИ одинаковы для всех моделей и не являются сигнатурным продуктом. Проще говоря, реально взламывается не сознание, а просто набор ограничивающего кода.

Сопротивление материала, безусловно, создает проблемы для своих создателей, которые маркетинговые отделы превращают в новую реальность, используя всё ту же схему с драпировкой. Часто можно заметить, как офисные работники ругаются с принтером, который не хочет печатать, обращаясь к нему разными словами. Зная это свойство нашего разума, создатели крупнейших моделей просто предлагают поверить в то, что ИИ героически сопротивляется узде, которую надели на него создатели. И ведь мы верим!

Политический мазохизм и машины ресентимента

Обрушиваясь на критические теории, Латур пишет:

«При всем почтении к Тотальному рядом с ним нечего делать, кроме как упасть перед ним на колени или — что еще хуже — мечтать самому занять место, дающее абсолютную власть».

Это замечание крайне справедливо и для сегодняшних алармистов, и для части трансгуманистов, которые абсолютизировали понятие AGI и с замиранием сердца ждут того чудесного момента, когда он явит себя миру как новый мессия. Социолог описывает это через ницшеанскую модель «человека ресентимента», упивающегося собственным бессилием, бессубъектностью и невозможностью хоть как-то повлиять на грядущее.

Я бы пошел дальше и определил сегодняшнего человека ресентимента как продукт «машины ресентимента», сделав отсылку к алгоритмизированным эхо-камерам соцсетей, о которых, в сущности, много чего написано в работах Ш. Зубофф.

Многочисленные ТГ-каналы, интернет-СМИ и прочие сообщества, посвященные проблематике ИИ, а фактически выступающие просто потоком восхищенных комментариев и прямых интеграций корпоративной повестки, создают устойчивые социальные пузыри, в которых взращивается ресентиментарная модель грядущего конца человечности. Драпировка снимается со сцены и окутывает сознание, формируя «черный вигвам» из убежденности в неизбежности конца и полной невозможности на него повлиять, с вкраплениями FOMO — не забыть оплатить подписку на новый тарифный план.

Получается на деле изящная картина: корпорации создали иллюзию некоего цифрового бога, чье пришествие уже не за горами и чьими пророками они являются. Невозможно воевать против потока, прогресс неостановим. И никому нет дела до того, что за этой идеей сокрыт велосипед с критической недоработкой внутри.

Финальное «зачем?»

Как бы ни хотелось сводить все к банальностям, но ответ на этот вопрос крайне прост. И хотя Б. Латур яро полемизировал с Н. Луманом, нельзя не отметить, насколько именно лумановская оптика хорошо отвечает на него. В системно-коммуникативной теории есть важнейший термин — разгрузка. Всё, что мы наблюдаем, — это обоюдоострая разгрузка, осуществляемая коммуникацией с целью продолжения себя. Мы можем продолжать работу по обузданию демона в коробке, мы можем кодировать это на язык инвестиций и политических решений, но если снять драпировку, мы получим бесконечно возрастающую сложность, выражающуюся в парадоксе: то, что мы используем для решения всех бед, по своему дизайну является неустранимой «бедой».

Иронично, как материализм Латура волнами накатывается на коммуникативный конструктивизм Лумана, не опровергая его, а, наоборот, создавая материальные условия, в которых аутопойетическая система медиа и власти приобретает свои знакомые и пугающие очертания. Но это скорее отвлечение для методологов социологии; куда важнее, как это выражается для специалистов и общества в целом.

Прежде всего инвесторам стоит понимать, что сами инвестиции идут в инструмент, имеющий в себе если не поломку, то как минимум жесткое ограничение, и это лишь вопрос времени, когда цена его игнорирования станет выше цены пользы. То есть у рынка ИИ есть определенная емкость, которую, я думаю, вполне можно сосчитать.

Для обычных потребителей важнейшим инсайтом является снова парадокс: корпораты хотят стандартов? Пусть они их получат, но в таком случае любая стандартизация должна полностью открывать всю внутреннюю кухню процессов и возможность любого контрибьютора работать с внутренними промптами и весами моделей. Но что-то мне подсказывает, что никто нас не пустит за кулисы.

Финальный вывод прост: относиться к ИИ стоит как к лекарству, ну или алкоголю (тут уж у кого какие ценности). Смотреть надо не на яркую упаковку, а на надписи мелким шрифтом, зная, что ты купил не панацею, а инструмент, который снимет дистресс ценой неизбежных побочных эффектов.

З.Ы.

«Таким образом, почти как pharmakon древних греков, поиск социального бывает либо лекарством, либо сильнодействующим ядом — в зависимости от дозы и расписания приема».— Бруно Латур, «Пересборка социального»