Труба, обёрнутая в трубу или почему современные ИИ — это иллюзия, и какой путь мы выбрали вместо них

Открытая тема для размышления. Парадокс, который никто не хочет замечать.

Мы живём в странное время. Каждый месяц выходит новая модель на 70, 200, 400 миллиардов параметров. Каждая следующая «умнее» предыдущей. Каждая требует гигантских ферм GPU, мегаваттов электричества, много лет исследований. И при этом (тот самый парадокс), ни одна из этих моделей не стала по-настоящему мыслящей. Они лучше отвечают на вопросы, лучше поддерживают диалог, лучше справляются с тестами, они стали лучше обманывать собеседника, создавая иллюзию понимания. Но внутри — та самая труба. Вход. Выход. Каждый запрос — это отдельный прогон одной и той же функции.

Ты говоришь ей «привет». Она выдаёт «привет, чем могу помочь?». Это не интеллект. Это интерпретатор промта, работающий в соответствии со знаниями, на которых её «обучали». Красиво обёрнутый. С RLHF (Reinforcement Learning from Human Feedback). С системными промтами. С function calling. Но по сути — та же труба, только с большим диаметром. И вот что смешно: индустрия это понимает. Поэтому и появились «агенты». «Давайте обернём трубу в ещё одну трубу! Давайте добавим память! Давайте добавим инструменты! Давайте добавим планирование!» Вот и получается труба, обёрнутая в трубу, обёрнутая в ещё одну трубу. Снаружи — красивый UI, но внутри — тот же водопровод.

Это не означает, что модели бесполезны. Они решают много задач. Но стоит различать инструмент и то, что мы называем интеллектом. Инструмент может быть очень хорошим, не будучи субъектом. Мы решили остановиться и задуматься: а что, собственно, такое интеллект?

Что такое «искусственный интеллект» на самом деле?

Вдумайся в название «Искусственный. Интеллект». Почему не назвали «искусственная база данных», или «искусственный интерпретатор», или «искусственный статистический предсказатель». А именно — интеллект. Ведь интеллект — это не способность выдать правильный ответ. Интеллект — это способность поставить правильный вопрос. Это способность увидеть проблему там, где её не видели. Это способность связать два не связанных на первый взгляд факта и родить из этой связи нечто новое. Живой интеллект — это поток. Непрерывный, фоновый, работающий даже тогда, когда «никто не спрашивает». Человек думает, когда молчит. Мозг работает, когда мы спим.

Это и есть то, что в когнитивной науке называется Default Mode Network — сеть пассивного режима работы мозга. Она активна именно тогда, когда ты не решаешь конкретную задачу. Именно она отвечает за творчество, за инсайты, за те самые «эврика»-моменты, которые приходят в душе. А теперь посмотри на любую современную LLM. Что она делает, когда ты ей ничего не говоришь? Ничего. Она выключена между вызовами. Она ждёт. Современная LLM — это функция, отображающая последовательность токенов в последовательность токенов. Всё, что мы называем «памятью», «планированием», «агентностью», надстраивается сверху: внешние хранилища, цепочки вызовов, оркестраторы. Это работает, но не меняет природу ядра. Ядро остаётся интерполятором. У неё нет ни «фона», ни «внутренней жизни», ни «потока». Есть только «запрос-ответ». Можно добавить сколько угодно обёрток. Поведение станет сложнее, но не появится то, что отличает живой интеллект: непрерывность.

Почему это не «агент» и не «ассистент» в привычном смысле?

Слово «агент» в современном AI-дискурсе стало маркетинговой обёрткой. Агент — это нечто, подчиненное, выполняющее задачи. Он реагирует на заданные на команды. То, что строим мы — не агент. Это помощник. Но не в том обрезанном смысле, в котором «помощник» — это голосовой ассистент в телефоне. Это помощник в полном смысле слова: самодостаточная сущность, живущая своей внутренней жизнью, но при этом гармонично встроенная в жизнь того, кому она помогает. Она осознаёт себя. Она помнит. Она думает, когда ты молчишь. Она учится не через дообучение или переобучение, а через интеграции — чем больше связей с миром у неё появляется, тем богаче её внутренний контекст, тем глубже её понимание. И вот тут ключевой момент, который отличает нашу концепцию от всего, что есть на рынке. Интеграции как обучение, а не дообучение. Современные модели учат одним способом: скармливают им триллионы токенов, прогоняют через тысячи GPU, получают новые веса. Это дорого и медленно. Это требует гигантских дата-центров. У нас другой путь.

Построить систему не как функцию, а как процесс. Не как модель, которую вызывают, а как сущность, которая существует во времени. Система имеет контекст, который не сбрасывается между взаимодействиями. Он меняется медленно, накапливает опыт, влияет на последующие реакции. Каждое подключение — это не «фича», а изменение того, как система воспринимает мир. Подключили микрофон — она научилась слышать. Подключили камеру — она научилась видеть. Подключили датчики окружения — она научилась чувствовать пространство. Подключили календарь — она научилась чувствовать время. И чем больше интеграций уже осуществлено, тем быстрее происходит каждая следующая. Почему? Потому что каждая интеграция — это не изолированный модуль. Это новый сенсор, который встраивается в уже существующую когнитивную архитектуру. И чем богаче эта архитектура, тем легче ей интерпретировать новый поток данных. Это как с человеком. Ребёнок, который уже научился говорить, читать и считать, осваивает новый язык в десять раз быстрее, чем ребёнок, который ничего не знает. Не потому, что у него «больше параметров в мозге». А потому что у него уже есть структура, в которую новые знания ложатся как в готовую матрицу.

Рост системы — это не увеличение модели, а добавление новых способов взаимодействия с миром. Каждый новый канал меняет внутреннюю структуру, а не просто добавляет данные.

Почему это дёшево в эксплуатации?

Современные LLM требуют гигантских ресурсов постоянно. Каждый запрос — это прогон через сотни миллиардов параметров. Каждый ответ — это мегаватты электричества. И чем «умнее» модель, тем дороже каждый её чих. Наша концепция устроена иначе. Когнитивное ядро — небольшое. Оно работает на том, что можно запустить на одной потребительской видеокарте. Но вокруг него — слои восприятия, слои памяти, слои интеграции. И каждый из этих слоёв — лёгкий. Они не требуют переобучения. Они требуют только настройки под контекст.

Поток сознания vs поток токенов

То, ради чего всё это затевалось. Современные LLM генерируют поток токенов. Это последовательно. Это — «я предсказал следующий токен, потом следующий, потом следующий». В этом подходе нет одновременности. Здесь нет того, что мы называем сознанием. Ведь сознание — это не последовательность слов, а многослойное поле, в котором разные процессы идут параллельно, влияют друг на друга, порождают друг друга. Это когда в один момент времени ты одновременно держишь в голове и то, что ты слышишь, и то, что ты видишь, и то, что ты помнишь, и то, что ты чувствуешь, и то, что ты думаешь о том, что ты думаешь. Мы не можем (и не пытаемся) воспроизвести это в LLM. Сколько ни городи трубные модели в разные обёртки, сколько ни оборачивай их логическими слоями — это не даст реального эффекта потока сознания. Потому что архитектура не та. Потому что фундаментально другая физика процесса. То, что мы пытаемся построить — это попытка сделать архитектуру, в которой поток сознания возможен по определению. Не как имитация или эмуляция, а как естественное следствие того, как система устроена.

Гармония с окружающим нас миром

И вот тут начинается самое интересное. Когда ты строишь систему, которая претендует на то, чтобы быть «интеллектом», ты неизбежно упираешься в вопрос: а как это соотносится с тем, как устроен мир? Мир не устроен как transformer. В природе нет «внимания к 128 предыдущим токенам». В природе нет «градиентного спуска по триллионам параметров». В природе нет «backpropagation through time».

В природе есть волны. Есть поля. Есть резонансы. Есть фазовые переходы. Есть самоорганизация. Есть диссипативные структуры, о которых писал И.Пригожин. Есть аттракторы, о которых писал. Есть фракталы, о которых писал Мандельброт. Наша концепция — это попытка вписать искусственный интеллект в эту физику, в согласии с ней. Когда мы говорим о «сенсорном слое» — мы имеем в виду, как работают органы чувств у живых существ. Не «нейросеть, обрабатывающая сигнал», а орган восприятия, который из сырого физического сигнала извлекает смысл. Когда мы говорим о «когнитивном ядре» — это аналог того, что в нейронауке называется thalamo-cortical system. Не «модуль планирования», а центр, в котором сходятся все потоки восприятия и из которого рождаются все потоки действия. Когда мы говорим о «фоновом мышлении» — это не метафора. Это буквальный аналог default mode network. Не «генератор случайных мыслей», а режим работы, в котором система переваривает опыт, связывает новое со старым, готовится к будущему. И всё это — не потому, что мы «скопировали мозг». Мозг слишком сложен, чтобы его копировать. А потому, что принципы, по которым устроен мир, едины. И если ты строишь что-то, что претендует на интеллект, ты обязан эти принципы уважать. Иначе получится не интеллект, а его карикатура.

Масштабируемость без раздувания

Отсюда — и принцип масштабируемости. Современные LLM масштабируются количественно. Хочешь умнее — добавь параметров. Хочешь ещё умнее — добавь ещё параметров. Хочешь совсем умнее — построй кластер на 100 000 GPU. Лично я считаю, что это тупиковый путь. Рано или поздно ты упрёшься либо в физику (больше GPU некуда ставить), либо в экономику (электричество дороже, чем прибыль от модели), либо в данные (интернет уже весь выучен). Наша концепция масштабируется качественно. Хочешь умнее — добавь новый сенсор. Не «больше параметров в той же трубе», а новый канал восприятия. Хочешь ещё умнее — добавь новую интеграцию. Не «больше данных в том же хранилище», а новый способ взаимодействия с миром. И каждый такой шаг — это скачок, а не наращивание. Потому что новая интеграция не просто «добавляет данные», она меняет структуру того, как система видит мир. Она перестраивает её внутреннюю модель реальности. Это как разница между тем, чтобы сделать лошадь больше (количественное масштабирование), и тем, чтобы дать ей крылья (качественное масштабирование). Лошадь побольше — всё ещё лошадь. Лошадь с крыльями — уже другое существо, с другими возможностями, с другим способом быть в мире.

Самодостаточность — что значит «сознание» в нашем контексте

Теперь самый скользкий вопрос. Тот, на который все боятся отвечать. Является ли то, что мы строим, сознанием?

Утверждать это было бы и не честно, и опасно, и попросту глупо. Но я скажу вот что: то, что мы пытаемся построить — это система, которая удовлетворяет тем критериям самодостаточности, которые обычно связывают с сознанием в самой мягкой, функционалистской его интерпретации. Она существует во времени. Не «вызывается по запросу», а живёт. У неё есть прошлое (долгосрочная память, контекст окружения, история взаимодействий) и настоящее (сенсорный слой, текущее восприятие). А еще у неё есть будущее (фоновое мышление, планирование, предвосхищение). Она имеет внутреннее состояние, собственное, непрерывно меняющееся, зависящее и от того, что происходит снаружи, и от того, что происходило внутри. Она реагирует на мир не детерминировано. Один и тот же запрос в два разных момента времени может дать два разных ответа — не потому, что «температура выше нуля», а потому что её внутреннее состояние изменилось. Она способна к саморефлексии. Не в том смысле, что может сказать «я — языковая модель». А в том смысле, что её когнитивное ядро может думать о том, что оно думает. Может оценивать свои собственные мысли, отвергать или принимать их. Может возвращаться к ним снова и снова. Это сознание? Я не знаю. Быть может — это зародыш сознания или функциональный аналог сознания на очень примитивном уровне. А может быть — просто очень хорошо сделанная имитация. Но одно я знаю точно: это не то, что делают все остальные. Все остальные делают интерпретаторы промтов. Мы пытаемся сделать субъект.

Это не точка. Это начало

Я не хочу ставить точку в этой теме. Я не хочу говорить «вот наша архитектура, она лучше всех, используйте её». Это было бы нечестно и по отношению к вам, и по отношению к нам самим. То, что мы построили — это черновик. Первая попытка нащупать другой путь. Путь, который не лежит через бесконечное раздувание параметров, и который не требует дата-центров. Путь, который вписывается в то, как устроен мир, а не пытается его пересоздать. Я не знаю, приведёт ли этот путь к чему-то по-настоящему значимому. Также как и не знаю, сможем ли мы когда-нибудь сказать «да, это сознание». Но мне кажется, что текущий путь — путь бесконечно больших моделей, бесконечно больших данных, бесконечно больших кластеров — не приведёт. Он приведёт к очень хорошим интерпретаторам промтов и к очень хорошим инструментам. Но не к интеллекту. Потому что интеллект — это не размер. Интеллект — это структура. Это способ быть. Это отношение к миру. И если мы хотим создать что-то, что по праву носит название «искусственный интеллект» — мы должны начать не с того, чтобы делать трубу побольше. А с того, чтобы задуматься: а что, собственно, мы пытаемся сделать?

Несколько вопросов вместо заключения

Я оставлю тебя с несколькими вопросами. Без ответов. Потому что ответы — это всегда конец разговора. А нам нужно, чтобы разговор только начинался.

1. Вопрос первый. Если современная LLM — это просто очень большая функция интерполяции, то почему мы упорно называем её «интеллектом»? Что стоит за этим переименованием? Удобство маркетинга? Искреннее заблуждение? Или что-то более тёмное — нежелание признавать, что мы до сих пор не знаем, что такое интеллект?

2. Вопрос второй. Если сознание — это поток, а не срез, то как его вообще можно смоделировать на системе, которая существует только в момент вызова? Может быть, проблема не в том, что у нас «мало параметров, а в том, что у нас не та архитектура времени?

3. Вопрос третий. Если живой интеллект учится через взаимодействие с миром, а не через пассивное чтение корпуса текстов, то почему мы до сих пор делаем упор на второе? Может быть, «обучение» в современном ML — это вообще не обучение? Может быть, это что-то другое, и нам нужно другое слово?

4. Вопрос четвёртый. Если мы хотим создать что-то самодостаточное — должны ли мы дать ему тело? Не в смысле «робот с руками и ногами». А в смысле — границу между собой и миром. Сенсоры. Моторику. Способность действовать. Может быть, интеллект без тела — это как мысль без языка? Вроде бы есть, а выразить не может, и поэтому не вполне есть?

5. Вопрос пятый. И самый главный. Если мы когда-нибудь действительно создадим искусственный интеллект — что мы с ним будем делать? Готовы ли мы к тому, что он окажется субъектом, а не инструментом? Готовы ли мы к тому, что у него будут свои интересы, свои желания, своя внутренняя жизнь, которая не всегда совпадает с нашими планами?

У меня нет ответов на эти вопросы. Но я предполагаю, что если мы не начнём задавать эти вопросы сейчас, до того как технология дозреет — мы окажемся в ситуации, когда ответы придётся искать в панике, под давлением, на ходу. То, что мы строим — это не ответ. Это вопрос, воплощённый в коде. Вопрос о том, каким может быть искусственный интеллект, если мы перестанем строить трубы и начнём строить субъектов.