Сжатие, красота и Шмидхубер: умеют ли нейросети выдумывать новое

В ноябре 2025 года Юрген Шмидхубер, которого половина индустрии считает настоящим отцом современного ИИ, в ответ Илону Маску опубликовал ссылку на свою же работу семнадцатилетней давности. Мол, хотите понять, почему нынешний ИИ не способен к настоящему творчеству, почитайте мою статью из 2008 года… Под катом расскажу, что это за теория, почему ее автор уверен, что она объясняет вообще все, от шуток до закона всемирного тяготения, и что из этого следует для LLM.

Скандальный отец ИИ

Если вы работали с нейросетями до эпохи трансформеров, вы точно пользовались работами немецкого и швейцарского ученого, специалиста в области ИИ Юргена Шмидхубера. В 1997 году он вместе со своим аспирантом Зеппом Хохрайтером опубликовал LSTM — архитектуру рекуррентных сетей, которая лет пятнадцать была стандартом обработки последовательностей. 

Распознавание речи на смартфоне в первой половине 2010-х годов, машинный перевод Google до перехода на трансформеры — все это LSTM и ее потомки. Сейчас Шмидхубер руководит лабораторией IDSIA в швейцарском Лугано и называет себя не иначе как отцом ИИ.

Есть и другая сторона нашего героя: Шмидхубер десятилетиями ведет публичную войну за приоритет с тройкой ученых — Хинтоном, Бенджио и Лекуном, получивших Тьюринговскую премию в 2018 году. Он опубликовал разбор их достижений на 200 с лишним ссылок, где утверждает, что лауреаты систематически не цитировали первоисточники, включая его работы. Там есть претензии почти ко всему, от бэкпропагации до GAN, которые он считает частным случаем своей «искусственной любознательности». Приоритет Шмидхубера реально подтверждается, но манера подачи сделала его личностью, мягко говоря, скандальной.

Без этого контекста ноябрьский твит выглядит как вброс, ведь Шмидхубер тридцать пять лет говорит о том, что творчество и любознательность — это не дар, а вычислимый процесс, его можно формализовать, и он это формализовал еще тогда, когда нынешние звезды OpenAI ходили в школу.

Простой принцип, объясняющий ВСЕ

Твит Шмидхубера стал ответом на слова Илона Маска о том, что ИИ — это сжатие и корреляция. Тот же ответил Франсуа Шолле, автору Keras и бенчмарка ARC, написавшему: 

«Все великие научные открытия по своей сути являются сжатием информации. Они берут сложную совокупность наблюдений и говорят: “Все это подчиняется одному простому правилу”».

В их понимании сжатие связано, вероятно, с поиском короткой программы, объясняющей данные, а корреляция — с обнаружением устойчивых связей между наблюдениями.

Сам Шолле поясняет:

«…вселенная — это прекрасно согласованная система правил. Интеллект — это эффективность, с которой вы можете перейти от результатов применения этих правил (того, что вы можете наблюдать) к самим правилам».

В частности, речь идет об аппроксимации — математическом методе, который заключается в замене сложных, неизвестных или «зашумленных» зависимостей между переменными более простыми моделями, которые достаточно точно отражают исходные данные. То есть правило всегда символично, а если оно не такое, значит, вы на самом деле ничего не объяснили, считает Шолле. И в итоге, чтобы понять, что Шмидхубер хотел сказать Маску и Шолле, нужно разобрать его работу. 

Как должен действовать агент по Шмидхуберу

Статья Driven by Compression Progress была опубликована 23 декабря 2008 года. Полное ее название звучит так: «Простой принцип, объясняющий важнейшие аспекты субъективной красоты, новизны, удивления, интересности, внимания, любознательности, креативности, искусства, науки, музыки и шуток». На этом моменте можно понять, что скромность никогда не была сильной стороной Шмидхубера. 

Вся работа построена на одном предложении — нам интересно то, что мы сейчас понимаем чуть лучше, чем вчера. Шмидхубер формализует это через наличие у наблюдателя некого компрессора, который сжимает всю историю его наблюдений. И чем лучше она сжимается, тем лучше наблюдатель понимает и предсказывает мир. Например, огромную последовательность математических знаний можно свернуть в краткую формулу кубической суммы. 

Основные идеи теории воплощены в наборе алгоритмических принципов для стимуляции развития через творчество интеллектуальных агентов, похожих на людей.

• Первое — сохраняй все. Вся история действий и наблюдений священна, потому что это единственное, что агент вообще знает о мире. Шмидхубер даже прикидывает, что людям для наблюдений хватает места в мозге с запасом, если считать по синапсам.

• Второе — улучшай субъективную сжимаемость. Любая найденная закономерность экономит биты, а сжатая версия данных — это, по сути, их объяснение.

• Третье — пусть внутреннее вознаграждение за любопытство отражает прогресс в сжатии. Награда агенту выдается не за результат и не за собранные данные, а за прогресс сжатия воспринятой красоты, за каждый сэкономленный бит. Смотрел на мир, ничего нового не понял — награды нет, а посмотрел и нашел закономерность — получи внутреннюю конфету.

• Четвертое — максимизируй вознаграждение за внутреннее любопытство. То есть агент сам решает, что красивое, куда смотреть и что трогать, идя туда, где, вероятнее всего, что-то поймет.

Эти принципы, по сути, определяют цели любопытной или творческой системы, а не способы достижения этих целей с помощью выбора конкретного адаптивного компрессора или предиктора и конкретного алгоритма обучения с подкреплением. Сложно, да, но дальше будет понятнее. 

Что агент должен считать красивым 

Красоту данных Шмидхубер определяет как их сжимаемость для конкретного наблюдателя в данный момент, а интересность — как производную этой красоты по времени, то есть крутизну кривой обучения. Другими словами, красивое может быть скучным, если ты его уже выучил, а интересное то, что становится понятнее. 

Например, компрессор, который видел много лиц, строит усредненный прототип лица, и новое лицо кодирует просто как отклонение от прототипа. Лицо, близкое к прототипу, дешево кодировать, поэтому оно субъективно красивее. Отсюда же симметрия и простые пропорции, это буквально регулярности, которые компрессор любит. И тут автор выделяет еще одно предположение: людям нравятся лица, похожие на их собственные, потому что свое лицо они видят в зеркале каждый день.

Самый провокационный раздел автор дает почти мимоходом, в полстраницы. Он сообщает, что есть одна вещь, которая присутствует во всех без исключения наблюдениях агента, — это сам агент. В связи с этим эффективному компрессору выгодно завести внутренний символ «я», короткий код для самого себя, и всякий раз, когда этот символ активно используется при обработке новых данных, агента можно назвать самосознающим.

Как указано в этой работе, все сознание — это оптимизация хранения. Шмидхубер пишет, что его объяснение проще конкурирующих теорий и он не собирается придавать этому понятию особый сакральный смысл. 

Шутки, наука и музыка 

Теперь самое интересное: как Шмидхубер объясняет вещи, которые обычно называют по-другому. 

Шутка работает, потому что панчлайн заставляет перекодировать сетап. Сначала мозг строит одну модель ситуации, тратит на нее сколько-то бит, а потом последняя фраза показывает, что все можно было записать иначе и гораздо короче. Скачок сжатия, внутренняя награда — смех. Плоская шутка это та, где панчлайн предсказуем, скачка нет.

Наука по Шмидхуберу — это та же механика. Яблоки падают, планеты ходят по небу, приливы приходят и уходят. Годы наблюдений, а потом Ньютон открывает закон тяготения, и все эти наблюдения внезапно сжимаются в одну формулу. Это и есть открытие. 

Музыка и искусство тоже сюда укладываются. Слишком предсказуемая мелодия скучна, а интересно то, что находится на грани, где есть закономерность, которую слушатель еще не до конца вскрыл, или есть запредельное, которое завораживает.

Всё в жизни агента — код

Вот что отличает Шмидхубера от армии философов, рассуждающих о сознании: его теория с самого начала была инженерной и с конкретными реализациями. Архитектура творческого агента у него состоит из двух модулей: 

• Первый — предиктор или компрессор, который учится предсказывать историю наблюдений.

• Второй — обучающийся с подкреплением контроллер, который выбирает действия. 

Изюминка в том, что контроллер получает внутреннюю награду не за результат во внешнем мире, а за прогресс первого модуля, за то, что компрессор стал сжимать историю лучше, чем вчера. Агент, ориентируясь на свое чувство прекрасного, ищет в мире данные, которые он пока не умеет сжимать, но, в принципе, может научиться это делать, и изобретает эксперименты, чтобы эти данные получить.

Первые такие системы Шмидхубер строил еще в 1990 году, с наградой за ошибку предсказания. После, в 1991 году — с наградой за ее уменьшение, в 1995 году через энтропию, в 1997 году через игру с нулевой суммой, где два модуля пытаются удивить друг друга. Это и есть та самая схема, которую он позже предъявлял в спорах как предвестника GAN. 

В 2000 году его принципы дошли до робототехники. В европейском проекте IM-CLeVeR исследователи экспериментировали с iCub, который должен был осваивать новые навыки за счет внутренней мотивации и любопытства. Робот действительно научился самостоятельно исследовать пространство движений и находить интересные ему объекты и ограничения, но одной такой мотивации для полноценного открытого обучения оказалось мало. 

В следующем проекте, GOAL-Robots, к любопытству пришлось добавить еще один механизм — самостоятельно формируемые цели, которые подсказывают агенту, что именно стоит исследовать дальше. 

Так может ли LLM выдумать новое

Шмидхубер отмечает, что современные модели не креативны, потому что в них нет его механизма 2008 года. В целом-то он прав, потому что современные нейросети и есть компрессоры. 

Сжатие — это две формулировки в рамках одной задачи, то есть мы запускаем сжатие (создаем короткую формулу) и по ней уже генерируем токен. Это доказали инженеры из DeepMind, когда взяли языковые модели, подключили к ним арифметическое кодирование и сжимали ими данные. Модель Chinchilla с 70 млрд параметров сжала гигабайт текста до 8,7% исходного размера, тогда как Gzip выдал 32%. На картинках и в аудио она тоже обошла специализированные компрессоры, то есть механизм создания токенов использует сжатие.

В работе 2024 годаспециалисты показали, что «интеллект» модели по бенчмаркам почти линейно коррелирует с ее эффективностью сжатия. А Суцкевер еще в 2023 году рассказывал, что хорошее обучение без учителя — это, по сути, хорошее сжатие. 

Так что Маск прав в том, что «ИИ — это сжатие и корреляция».

Получается, аргумент у Шмидхубера неплохой, ведь в LLM нет внутренней награды за прогресс сжатия. Модель не думает «что бы мне такое исследовать, чтобы понять мир чуть лучше», она предсказывает следующий токен. Любопытства как драйва там тоже нет, но есть компрессор без награды за сжатие, а если мы добавляем награду за сжатие, то запускаем творческий процесс.

У авторов академического разбора On the Creativity of Large Language Models похожая точка зрения. По их мнению, у LLM нет ни намерения творить, ни петли самопроверки, по классике психологии творчества она застревает на стадии имитации, не доходя до исследования и намеренного отхода от шаблона. 

В свежем исследовании в PNAS Nexus отмечается, что ответы коммерческих моделей на творческие задания похожи друг на друга заметнее, чем ответы людей. То есть как популяция LLM менее разнообразны и в этом смысле менее креативны.

При этом весь спор упирается в определение слова «творить», в то, насколько глубоко его нужно понимать. По определению, творчество — результат прохождения и переосмысления творцов входящей информации. 

Лев Толстой в трактате «Что такое искусство?» описал его как заражение чувством: человек пережил нечто, нашел для этого внешние знаки (звук, линия, слово, жест) и передал свое переживание другому. 

Если творчество — это внутренний мотив, новизна и ценность, то у модели первое сильно упрощено (внутренний мотив равен стремлению выполнить задачу) и спорно со вторым и третьим (что мы видим по обилию нейрослопа). Однако этот мотив есть у пользователя, который пишет промпт нейросети, выступающей зеркалом. Оно усиливает и сильные стороны творца, и его «тараканов».

Еще творчество в его классическом понимании стоит отделять от креативности. Этот популярный в современном мире термин подразумевает способность комбинировать имеющиеся объекты и так получать что-то новое.  Вот с этим нейросети справляются отлично, и обычно споры о вытеснении творческих задач связаны именно с подменой этих двух понятий.

Что в итоге 

Если креатив — это генерация данных, которые дают скачок сжатия, то генеративные модели формально уже стали креативными дальше некуда. Midjourney создает изображения, в которых зритель видит неожиданный порядок, знакомые формы или новое сочетание смыслов. В результате и происходит тот самый компрессионный прогресс…

Однако в любой нейросети цель задает человек, он же формулирует запрос и оценивает полученный результат. То есть компрессионный прогресс вызывает пользователь с помощью Midjourney, а творческий акт принадлежит всей связке из оператора и модели. Даже если изображение получилось неожиданным, сама система не испытывала интереса к задаче и не принимала решения исследовать ее.

При этом если модель способна находить закономерности и может создавать объекты, которые воспринимаются как красивые или интересные, можно говорить о воспроизведении части этого механизма. В человеческой психике контур замыкается внутри: интерес направляет поиск, открытие приносит внутреннюю награду и усиливает интерес. У нейросети источник цели и оценка результата пока вынесены наружу, к оператору и системе вознаграждения.

Граница «не умеет познавать» размывается тем, что агентные системы, которые пишут код, запускают его, смотрят на ошибку и правят — можно сказать, это уже и есть контроллер с внешней средой. Мы уже можем говорить о наличии у нейросетей интереса и понимания красоты. 

Это еще не значит, что у них есть самосознание: обучение с подкреплением позволяет закреплять успешные стратегии, но критерий успеха по-прежнему задается человеком. Сам механизм RL не порождает любопытства и не поощряет поиск новых закономерностей, если такое поведение заранее не отражено в функции награды.

До полной схемы Шмидхубера с непрерывным самообучением пока далеко, но направление уже совпадает с его принципами тридцатилетней давности. Осталось, чтобы модели захотели сжимать лучше.

А вы как считаете, способен ли ИИ на творчество? И где та грань, когда человек способен на творчество, а когда нет?