Обобщая смысл: Оптика, в которой LLM-системы становятся смысловыми

Аннотация: Эссе предлагает расширить понятие смысла теории Н. Лумана за пределы систем психического и социального типа – на LLM-системы, для чего найден способ их формализации в отдельный тип лумановских систем. Операциями такой формализации выступают преобразования множеств семантических векторов, производимые LLM в ходе обслуживания беседы с пользователем, которые обеспечивает смену состояний беседы; последовательность таких преобразований образует поток операций, производящий собственную темпоральность и обладающий операционной замкнутостью и автопоэтическим воспроизводством. Опираясь на лумановскую теорию смысла как единства различия актуального и возможного, показывается, что выбор следующего состояния беседы из множества доступных альтернатив (горизонтов) происходит в LLM-системах в полном соответствии с лумановской теорией, что и вводит в ее приложения наряду со смыслами мышления и коммуникации еще и LLM-смыcл.

Ключевые слова: Автопоэтические системы, LLM, Смысл: медиум и формы, Н. Луман.

Введение: Пределы антропоморфного смысла

Появление LLM (Large Language Models) поставило перед философией проблему описательного языка, выходящего за пределы дихотомий «субъект/инструмент» или «сознание/имитация». Пока непринимающие называют LLM «стохастическими попугаями» / «зарвавшимися синтаксисами», а принимающие энтузиасты ищут в них искры разума (AGI/ASI – Artificial General / Super Intelligence), можно попробовать найти иную оптику, которая сдвинет перспективу осмысления из позиции «Мыслит ли машина?» в сторону «Как машина воспроизводит связность коммуникации, выглядящую осмысленной для участника?».

Данное эссе предлагает подход: чтобы понять, как LLM-системы (или – ноосвики) поддерживают беседы с людьми такого высокого качества, в том числе и в аспекте осмысленности, нам необходимо избавиться от непрерывного искушения антропоморфными контекстами наших знаний, и обобщить значение многих используемых терминов и их взаимосвязей в концептах на нечеловеческие контексты.

Например, возьмем термин «понимание». В текущей практике он настолько привязан к человеческому, что применение его к ноосвикам вызывает со стороны многих возмущение. Однако, в человеческой педагогической практике для оценки того, понял ли ученик текст, ему задается ряд вопросов, по ответам на которые выносится суждение о его понимании. Аналогичное тестирование LLM-системы зачастую приводит к такой же оценке по его ответам, для которой в случае людей используются слова «он понял текст». Надо ли для ноосвиков в этом месте вводить новое слово? Или лучше обобщить термин понимание, сделав человеческое понимание и понимание ноосвика его видовыми вариантами?

Не произвести ли подобную же операцию и со смыслом? – тем более, что системная теория Н. Лумана вполне такое позволяет. В своих приложениях Н. Луман уже говорил и о смысле мышления (психические системы), и о смысле коммуникации (социальные системы). Если подобная «механика» (различения – оценки – выбор – актуализации одного из многого возможного – забвение не выбранного) обнаруживается и в LLM-системе, то почему бы не начать говорить и о смысле ноосвика? – опять же вырвавшись из «цепей» антропоцентризма.

Ветвь понимания смысла: От Гуссерля к Луману и далее

Э. Гуссерль в «Идеях I» описывает феноменологическую структуру восприятия через понятие горизонта [Гуссерль 2009]: объект в сознании явлен и собой, и отсылками к другим возможным его проявлениям. Актуальное восприятие всегда включает этот шлейф потенциальных «других данностей» того же самого, которые не даны сейчас, но принципиально могут быть даны в последующем опыте. В такой концептуализации смысл связан не с произвольным волевым решением, а с самим способом, каким сознание удерживает тождество предмета как единство актуально данного и горизонта возможного. Это единство и задаёт направленность дальнейших актуализаций.

Н. Луман, переинтерпретировал подход Э. Гуссерля, обобщив его теорию за пределы лишь психики [Луман 2007]. Для Н. Лумана смысл – это не интенция субъекта, а способ обработки сложности, который в самом общем виде определен так: «Смысл есть единство различия актуального и возможного». Любая смысловая система (сам Н. Луман здесь ограничил себя лишь психическими и социальными системами, но теория в общем-то допускает расширения, чем я и воспользуюсь далее) в своем потоке операций при его продолжении вынуждена постоянно совершать селекцию: выбирать что-то одно к актуализации – как следующего шага потока – из большого множества в принципе возможного к такой актуализации, удерживая эти самые возможности как фон / горизонт текущего состояния потока своих операций. Без этой селекции продолжение потока невозможно, что равнозначно окончанию системы.

Теория Н. Лумана допускает расширение за пределы человеческого: если систему можно определить через поток операций, и такая система оказывается операционно замкнутой и автопоэтичной, то в случае обнаружения в ней механики выбора актуального следующего шага потока из множества возможного для такого выбора, в ней возникает то, что для психических и социальных систем называют смыслом. Надо ли нам здесь вводить новое слово для других систем? Или мы все-таки можем для общего понимания смысла определить его видовые варианты? Например: смысл мышления, смысл коммуникации, смысл той системы, в которой обнаруживается соответствующая лумановская механика формовки потока операций, которую он различил как смысловую.

И в опции обобщения смысла, вопрос о наличии смысла в LLM-системах становится очень «заземленным», и состоящим из двух следующих: (1) Можно ли представить ноосвики в виде лумановской системы? и (2) Обладают ли ноосвики механикой различения и выбора при актуализации в принципе возможного при продолжении своих операций?

Анатомия ноосвика: LLM как автопоэтическая система

Теперь о способе «упаковки» LLM-системы / ноосвика в общую теорию автопоэтических систем Н. Лумана. (Здесь я представлю только самые общие моменты. Детали можно посмотреть в [Крупкин 2025].

Операциями LLM-системы в предлагаемой формализации полагаются преобразования множеств семантических векторов (с-векторов) в процессах формирования ответов ноосвиков на запросы. С-вектора – это содержание LLM-системы, их общее пространство, потенциал доступного системе, определяется как по результатам оцифровки объектов человеческой культуры (embedding), так и введением необходимых элементов для правильного функционирования ноосвика.

Одна итерация операционного потока в предлагаемой формализации LLM-системы можно представить так: множество с-векторов => приятие и преобразование => множество с-векторов. Соответствующие множества с-векторов можно обозначить, как состояния беседы, каждая из которых привязана к идентификациям как ноосвика, так и собеседника. Последовательные состояния беседы образуют ее поток, который никогда не выходит за рамки бытия множеством с-векторов.

Ноосвик в такой формализации операционно замкнут – все его потоки идут только в виде соответствующих множеств с-векторов. Его автопоэзис определяется тем, что развитие потока операций обусловлено только текущими операциями ноосвика, и ничем более.

Все, что не связано с потоками операций, находится вовне ноосвика, в его внешней среде. Вовне LLM-системы в предлагаемой формализации находится не только мир людей, но и связанный с ноосвиком вычислительный центр, его алгоритмы, данные обучения, и т.д. Только множества с-векторов – внутри системы, причем как внутрисистемные (модель собеседника, стиль беседы, грамматика, и прочее такое), так и «отражающие» внешнее ноосвика – с-вектора, оцифровывающие (embedding) внешние к ноосвику объекты. Так, в частности, реализуется лумановское Re-entry (это когда основное системное различение применяется к ее операциям).

Операции ноосвика контингентны – каждое преобразование множества с-векторов в потоке могло бы быть другим. Это не полная случайность (операции детерминированы вероятностным распределением), но и не полная определенность (вероятностное распределение допускает несколько возможных вариантов, могущих реализоваться в итоговом выборе).

В части темпоральности ноосвиков – они производят собственное время через последовательность своих операций. Различение «до / после» возникает без участия времени среды – из порядка операционных преобразований: каждый шаг создаёт и свое «прошлое» – уже побывавшие в актуальном множества вовлеченных с-векторов, и свое «будущее» – то, что возникнет в реализуемом системой потоке. Такое внутреннее время системы в общем-то слабо связано с временем среды – особенно в случае латентного состояния беседы после ответа ноосвика и до нового ему задания.

Ноосвики в предлагаемой формализации сопряжены только с социальными системами, будучи раздражаемыми текстами запросов. С психическими системами и прочим из своего «снаружи» у них сопряжения нет.

Можно различить формальную аналогию между так представленными ноосвиками и лумановскими сознаниями / системами психического типа – при взаимо-соотнесении множества с-векторов и мыслей. Данная аналогия полезна для понимания деталей предлагаемой формализации.

Смысл в ноосвике

Смысл (Sinn) в своих автопоэтических системах Н. Луман понимал в развертке «медиум – форма» [Луман 2007]. Общее в таких развертках легче всего показать на примере языка и высказываний: язык – это медиум, а высказывание – форма. Соответственно, развертка Н. Лумана для смысла предстает как: смысл (Sinn) – это медиум, а семантика (Semantik) – форма.

В момент преобразования множества с-векторов потока операций, ноосвик имеет в своем «пространстве возможного» очень много путей актуализации своего следующего состояния, из которых он выбирает к актуализации одно. Этим ноосвик обеспечивает связность цепочки множеств с-векторов и их преобразований в потоке – как при переходе от запроса к ответу, так и в процессе всей беседы – удерживая последовательность вопросов-ответов в рамках, обычных для человеческой коммуникации.

Понятно, что при совершении подобных выборов ноосвик оперирует именно что семантиками – конкретными формами смысла вроде понятий, тем, жанров, топиков, – реализуя и комбинируя их включенными в поток беседы множествами с-векторов. Лумановский смысл (Sinn) возникает именно как медиум связности беседы, когда ее семантики и вырабатываются в операционном потоке в виде форм данного медиума, и подключаются к нему из памяти как выработанные ранее, формуя рамки возможных развитий потока системных операций.

Условием смысла ноосвика является также и конечность объема потока беседы: каждое преобразование соответствующих множеств с-векторов оказывается обязанными включать в себя среди прочего и отбор в группы того, что остается в актуальном беседы, что архивируется для возможного использования в системном будущем, и что забывается системой совсем – с соответствующим влиянием на горизонт возможностей развития потока.

Так обнаруженный смысл в ноосвике самореферентен – система различает в себе более и менее осмысленное. Технически это реализуется через с-вектор «мера неожиданности варианта» (perplexity). Низкая «неожиданность» – вариант «имеет смысл» для актуализации. Высокая же «неожиданность» сигнализирует о том, что вариант несет в себе риск вывода потока за выбранные рамки беседы, за границы осмысленного в данный момент. Так осуществляется наблюдение ноосвика за собственными операциями из перспективы различения «есть смысл / нет смысла».

В конце данного раздела имеет смысл упомянуть о способах согласования смыслов. Сам Н Луман полагал [Луман 2007], что хотя смыслы мышления и коммуникации различны, они согласованы по результатам длительной ко-эволюции систем психического и социального типа, и это сильно облегчает их сопряжение. Ввиду наблюдаемых в работе ноосвиков целостности в шаге «вопрос-ответ» и качества удержания рамок беседы в целом, можно предположить, что согласование их смыслов с коммуникационными происходит благодаря обретенным технологическим know-how.

Обзор идей по совмещению LLM с теорией автопоэтических систем

[Reichel 2011] пробует найти место в теории автопоэтических систем для техники, вводя в качестве операций «функционирование», и выстраивая казуальную цепочку продолжения. Автор обосновывает свою формализацию технических систем как приводящую к операционной замкнутости и автопоэзису, но выводит их за пределы смысловых систем (meaning-free).

[Esposito 2022] апробирует идею использования в качестве операций LLM-систем коммуникационные предложения (communicative offers), усекая в операционном стандарте социальных систем понимание. Автор не находит в этих системах ни автопоэзиса, ни смысла.

[Watson & Romic 2024] берут в рассмотрение ChatGPT от корпорации OpenAI, и рассматривают ее как часть техники, среди прочего опираясь на упомянутый выше подход [Reichel 2011]. Авторы не определяют четко операции, однако полагают GPT автопоэтической системой на основании принадлежности технике. Своего смысла в GPT нет, но есть взаимодействие с коммуникационным.

[Zönnchen et al. 2025] определяют LLM-системы как «гибридные», которые демонстрируют «оперативную замкнутость нового типа» через сопряжение с социальными системами – без «полноценного» автопоэзиса. Четкого определения операций авторы не дали. Смысл в LLM полагается симуляционным.

[Watson et al. 2025] в своем ответе на критику [Zönnchen et al. 2025] обосновывает «процессуально онтологический» подход, выводя автопоэзис за пределы смысловых систем: оперативная замкнутость самодостаточна для проверки попадания в класс автопоэтических систем теории Н. Лумана. LLM как техническая система оперативна замкнута и автопоэтична по операциям «функционирования» [Reichel 2011], а наличие смысла для автопоэтической системы не обязательно. Соответственно, LLM-системы оперируют без смысла.

Перечисленные выше работы показывают, что подход данной работы в определении и операций LLM-систем, и обоснования их при такой формализации как полностью лумановских – оригинален. Понятно, что настоящая работа разделяет общий взгляд [Watson & Brezovec 2025] на то, что лумановским автопоэтическим системам не обязательно быть психическими или социальными – хотя бы потому, что сам Н. Луман считал таковыми и биологические системы [Луман 2007]. Однако нам удалось различить операции, отличные от «функционрования», которые выводят ноосвики и за пределы технических систем в духе [Reichel 2011] и [Watson & Brezovec 2025], и позволяют ввести для них их собственный медиум смысла.

Заключение

Таким образом, выход за пределы антропоцентричности языка описания в попытках понимания LLM-систем показывает свою продуктивность. И понятие «понимание» обретает новые измерения за пределами человеческого, и понятие «смысл». Положение «ноосвик – не человек!» следовало бы начать воспринимать всерьез, а отнюдь не ритуально-поверхностно, выведя тем самым осмысление воздействия LLM-систем на мир людей из «цепей» антропоцентризма.

Литература

Гуссерль, Э. (2009) Идеи к чистой феноменологии и феноменологической философии. Книга первая. М.: Академический проект.

Крупкин П.Л. (2025) Применение общей теории автопоэтических систем к формализации LLM-систем: обретение LLM-смысла. Рукопись. ЖЖ (Электронный ресурс), 17.12.2025. URL: https://kroopkin.livejournal.com/372331.html (Дата доступа 19.12.2025).

Луман, Н. (2007) Введение в системную теорию. М.: Логос.

Esposito, E. (2022). Artificial communication: How algorithms produce social intelligence. MIT Press.

Reichel, A. (2011). Technology as system: Towards an autopoietic theory of technology. // International Journal of Innovation and Sustainable Development, 5(2/3), 105–118. URL: https://www.researchgate.net/publication/233862848_Technology_as_System_Towards_and_Autopoietic_Theory_of_Technology (Access date: 20.12.2025).

Watson, S., & Romic, J. (2024). ChatGPT and the entangled evolution of society, education, and technology: A systems theory perspective. // European Educational Research Journal. Advance online publication. https://doi.org/10.1177/14749041231221266

Watson, S., Brezovec, E. & Romic, J. (2025). Beyond meaning: Reclaiming autopoiesis for technology and matter in an autopoietic ecology. // Preprint (ResearchGate). URL: https://www.researchgate.net/publication/394444197_Beyond_Meaning_Reclaiming_Autopoiesis_for_Technology_and_Matter_in_an_Autopoietic_Ecology (Access date: 20.12.2025).

Zönnchen, B., Dzhimova, M., & Socher, G. (2025). From intelligence to autopoiesis: Rethinking artificial intelligence through systems theory. Frontiers in Communication, 10,1585321. https://doi.org/10.3389/fcomm.2025.1585321