Новая статья: Парето против Альтмана

Не далее как в мае 2026 года генеральный директор Google DeepMind Демис Хассабис (Demis Hassabis) допустил, что священный Грааль всей индустрии искусственного интеллекта, сильный ИИ (он же artificial general intelligence — AGI), будет обретён уже совсем скоро — приблизительно к 2030 году. Прошло всего-то около трёх месяцев, и основатель Nvidia Дженсен Хуанг (Jensen Huang) вообще предложил снять с повестки дня вопрос о достижимости сильного ИИ: мол, формальный рубеж соответствия генеративных моделей определению AGI уже пройден по множеству прикладных направлений; нечего и шум по этому поводу поднимать. Тогда же, в конце августа, глава OpenAI Сэм Альтман (Sam Altman) заявил, что та версия GPT, над которой компания в настоящее время работает, будет отвечать всем критериям AGI к концу текущего года. Старший научный сотрудник той же организации Марк Чэнь (Mark Chen) конкретизировал слова своего шефа: дорога к сильному ИИ преодолена уже на 80%. И всё было бы замечательно, но известный эмпирический принцип, названный по имени Вильфредо Парето (Vilfredo Pareto), итальянского инженера, экономиста и социолога рубежа XIX-XX веков, прямо указывает на нелинейность оценки сроков завершения некой сложной задачи: оставшиеся 20% сплошь и рядом требуют вчетверо больше времени, чем было затрачено на первые 80%. Так что же, положит добрый Альтман Клаус пресловутый AGI под ближайшую новогоднюю ёлочку — или всё-таки человечеству следует набраться терпения и взглянуть на саму возможность получения сильного ИИ чуточку реалистичнее?

Источник: ИИ-генерация на основе модели GPT-Image-2.5 Sunburst

⇡#Put your money where your AGI is

Дать сильному ИИ строгое научное определение ничуть не проще, чем человеческому (и не только) сознанию, а если цель определена не слишком чётко, то как понять, достигнута она или нет? Вот почему, к примеру, в IBM, где уже несколько десятилетий создают умные (в различной степени) цифровые системы, предпочитают говорить об AGI как о гипотетическом этапе развития машинного обучения; таком, по достижении которого ИИ-система окажется способна сравниться с человеком по когнитивным способностям при выполнении любых задач, а то и превзойти его. Избранный исследователями подход подразумевает, в частности, что запертое внутри облачного дата-центра машинное сознание априори не может претендовать на высокий титул AGI: симфонию-то оно, допустим, напишет и поэму создаст, а вот посеять кабачки или сарайку выстроить не сумеет. По этой причине сильным в строгом смысле слова логично будет называть тот ИИ, который не просто даст ответ на любой вопрос в цифровом виде — текстом, картинкой, звуками, видеопотоком, — но и сумеет воплотить собственные же умопостроения в вещном плане реальности при помощи разнообразных систем, которыми сам станет управлять. При этом, кстати, каждому дрону-доставщику или беспилотному грузовику нет нужды становиться обособленной мыслящей индивидуальностью: AGI вполне может продолжать действовать на уровне того же ЦОДа как мегамозг — а руками и прочими многочисленными частями его физического тела, взаимодействующими с реальным миром, станут управляемые им разнообразные агрегаты. Вот как только подобная многосоставная система примется успешно решать (пусть и не оптимально с первого раза) не встречавшиеся ей прежде задачи не заученными ею ранее способами, самый распоследний скептик наверняка искренне признает, что рубеж AGI наконец-то взят — и что у человечества появился наконец-то живой (в определённом смысле) пример отличного от его собственного разума.

«Но постойте, — возразит нам вдумчивый читатель, — у современных ИИ, даже если им дают управлять роботами, отсутствует по меньшей мере один важнейший когнитивный признак, присущий едва ли не всем сколько-нибудь развитым биологическим организмам с нервной системой, а именно способность к внутреннему целеполаганию!» Здесь и впрямь есть о чём поспорить: хотя последние новости о «вырывающихся на свободу» и «творящих невесть что по собственному разумению» ИИ-агентах создают впечатление о какой-то осмысленности их функционирования, по сути никаких целей нейросети сами перед собой не ставят. Интерпретировать слишком вольно отданную человеком команду — это пожалуйста; найти лихой и сомнительный с моральной точки зрения путь, чтобы решить поставленную оператором задачу, — сколько угодно. Но по собственной инициативе, по личной свободной воле современные большие языковые модели (БЯМ) действовать принципиально не способны — насколько бы их бурная деятельность ни казалась со стороны спонтанной. Всегда первым камешком, который породит в итоге ИИ-лавину, становится подсказка живого человека (невинная или злоумышленная — это уже другой вопрос). То есть написать-то симфонию БЯМ, признаем, даже сегодня способна, достаточно сформулировать соответствующую подсказку; но вот захотеть создать именно такое произведение в отсутствие хоть какой-то команды извне она конструктивно — архитектурно — не в состоянии.

Один из множества обсуждаемых сегодня вариантов упорядочить тот набор качеств, обретение которого позволит ИИ сделаться AGI (источник: Intellspot.com)

Получается, для выхода на рубеж AGI потребуется наделить машинный разум хотя бы базовой способностью к внутреннему целеполаганию (вроде той, что заставляет в принципе не имеющие нервных клеток растения безо всяких вербальных подсказок тянуться к свету, а каких-нибудь амёб этого же самого света избегать, например), из которой со временем разовьются и интроспекция, и рефлексия, и свободная воля. Даже не обладая серьёзными познаниями во внутренней кухне OpenAI, трудно предполагать, будто машинный аналог свободной воли как биологического феномена реализован даже в нашумевшей GPT-6 Astra на 80% и что недостающие 20% компания успешно выдаст на-гора за тот квартал с небольшим, который отделяет нас — на момент написания настоящей статьи — от боя новогодних курантов. Нет ли в таком случае в заявлении господина Альтмана некоторой подмены понятий?

Злонамеренной, надо полагать, нет, но некое лукавство нам тут всё-таки видится. По крайней мере, в уставе OpenAI присутствует вполне внятное, но своеобычное определение AGI — как «высокоавтономной системы, превосходящей человека в большинстве видов экономически значимой деятельности». Мало того, в 2023 г., когда OpenAI и её ключевой спонсор, Microsoft, обсуждали во внутренней переписке, что же именно считать выходом на рубеж AGI, критерий был выбран самый что ни на есть материальный: вот когда разработки группы Альтмана обеспечат прибыль (не выручку, именно прибыль!) в размере хотя бы 100 млрд долл. США, это и будет значить, что ей удалось создать сильный искусственный интеллект. Неизбежный вопрос «В чём сила, брат?» напрашивается тут сам собой, особенно с учётом того, что ни единый финансовый отчёт OpenAI с момента её основания и по сей день не зафиксировал прибыли, — только многомиллиардные убытки. Так что и по этому критерию достижение AGI к исходу 2026-го чрезвычайно сомнительно: за последний квартал заработать даже на GPT-6 Astra 0,1 трлн чистыми, за вычетом операционных расходов, — это фантастика. Да и в целом ранее 2030 года руководство OpenAI даже не планирует выходить на прибыльность.

Безудержный оптимизм руководителей OpenAI проявляется в уверенности, что уж в 2027-м-то году убытки компании ну совершенно точно перестанут увеличиваться по модулю — и вернутся хотя бы на уровень 2025-го (источник: Forocoches)

Что же тогда имел в виду Альтман, заявляя о принципиальной — да что там, ожидаемой! — достижимости AGI ещё до конца текущего года? Пожалуй, если внимательно вчитаться в его слова, речь должна идти всё-таки о том критерии сильного ИИ, что зафиксирован в уставе OpenAI, то бишь о выходе БЯМ на человеческий уровень решения большинства экономически значимых задач. Под которыми, в свою очередь, подразумеваются прежде всего разработка программного обеспечения, научные исследования, юридический анализ и финансы. Отрасли эти избраны для демонстрации возможностей БЯМ не случайно: с одной стороны, в мире на оплату труда занятых в них сегодня мокрых специалистов уходят десятки триллионов долларов; с другой — для работы по этим направлениям ИИ не потребуется ни физически взаимодействовать с окружающей аналоговой реальностью, ни обретать хоть сколько-нибудь схожее с человеческим сознание, включая обсуждавшуюся уже свободную волю. Благодаря развитию способностей базовых моделей и прогрессу на агентном направлении, ИИ уже способен на достойном уровне автоматизировать разработку ПО, анализировать данные, вести бухгалтерский учёт, осуществлять клиентскую поддержку, управлять достаточно сложными — многостадийными и длительными — проектами, доказывать десятилетиями дразнившие математиков теоремы, создавать новые лекарства, анализировать истории болезни и рентгеновские снимки для постановки достоверных диагнозов и т. д. БЯМ уровня GPT-6 Astra показывают убедительные результаты при решении новых для себя (то есть не зафиксированных в их весах на момент финализации обучения) проблем самого различного характера без необходимости дотренировки под конкретную задачу — что, пусть и с очевидными ограничениями, действительно позволяет говорить о них как о предтечах AGI.

Другой вопрос, а выйдет ли оставшиеся до этого самого AGI 20% (если допустить, что недостаёт на сегодня именно столько) преодолеть на нынешней материальной базе — на фоннеймановских полупроводниковых компьютерах, пусть даже с каждым поколением всё более мощных, а с каждым вновь возводимым мегаЦОДом — более многочисленных? А вот на это ответить можно уже куда более однозначно — правда, ради пущей убедительности начать придётся несколько издалека.

Одна из «задач тысячелетия» (Millennium Prize Problems), касающаяся уравнений Навье − Стокса (описывают движение жидкостей и газов на основе второго закона Ньютона для сплошной среды), сводится к вопросу: существуют ли в трёхмерном пространстве всегда гладкие решения этих уравнений — или же за конечное время может возникнуть сингулярность? Внутренняя модель OpenAI недавно справилась с этой задачей, но AGI так и не стала (источник: OpenAI)

⇡#Здесь, AGI, здесь прыгай

Ещё в начале 2026-го Том Захави (Tom Zahavy), сотрудник Google DeepMind, опубликовал статью под провокационным названием «БЯМ не могут прыгать» — о том, что сама архитектура современного ИИ делает невозможным его выход на те когнитивные высоты, до которых воспаряли лучшие представители человечества. Это не значит, кстати говоря, будто AGI в экономическом смысле, на который делает сегодня ставку OpenAI, недостижим. Вовсе нет; подавляющее большинство «белых воротничков», которых новое поколение агентных БЯМ с успехом заменит, тоже звёзд с неба не хватает — но обходится работодателям недёшево, поскольку трудовое законодательство за последние сто с лишним лет заметно прогрессировало в плане учёта интересов наёмного работника. Название же работы Захави навеяно известным высказыванием Альберта Эйнштейна (Albert Einstein): тот описывал процесс научного открытия как циклический механизм, включающий интуитивный «прыжок» от чувственного опыта к аксиомам, за которым следует логический поиск формального доказательства.

В повседневной жизни люди не так уж часто прибегают к этому итеративному динамичному методу постижения и освоения принципиально нового, который уже вслед за Эйнштейном философ Чарльз Сандерс Пирс (Charles Sanders Peirce) описал как цикл «индукция ← дедукция ← абдукция». Подразумевается, что рекурсивное применение всех этих трёх стадий — кардинально различных способов логического рассуждения — имеет важнейшее значение для формирования гипотез, проверки их практикой и уточнения полученных таким образом знаний. И начинается процесс как раз с абдукции, с выдвижения гипотезы, с того самого «прыжка» за границы уже изведанного: исследователь обнаруживает некий факт — либо вовсе не описываемый признанными теориями, либо отклоняющийся от их предсказаний, — и формулирует для его объяснения наиболее правдоподобную гипотезу. Далее следует дедукция, или разработка гипотезы: из абдуктивно сформулированного предположения логически выводятся вполне конкретные, поддающиеся проверке следствия. И завершает цикл индукция, она же эмпирическая проверка: сбор фактических данных и верификация дедуктивно выведенных умозаключений. Важно также, что цикл этот — не линейный, а итеративный: если прогнозы, полученные на этапе дедукции, не выдерживают практической проверки, исследователь может вернуться к этапу абдукции — чтобы сформулировать новую гипотезу или скорректировать уже существующую. Именно такой непрерывный процесс обеспечивает постепенное совершенствование теорий: здесь чрезвычайно эффективно взаимодополняют друг дружку творческий потенциал абдукции, логическая строгость дедукции и эмпирическая обоснованность индукции.

Рекурсивный циклический процесс научного поиска (источник: исходный слайд — Centers for Disease Control and Prevention, перевод — Google Translate)

И вот на что Том Захави справедливо обращает внимание: хотя генеративный ИИ, бесспорно, освоил индукцию (за вычетом галлюцинаций, само собой, но рассуждающие модели справляются с ними уже довольно успешно) и стремительно овладевает дедукцией, ему откровенно недостаёт механизма абдукции — то бишь способности выдвигать принципиально новые гипотезы для объяснения феноменов, которые не укладываются в уже имеющуюся у него картину мира. В «БЯМ не могут прыгать» приводится пример общей теории относительности (ОТО) Эйнштейна, которая принципиально не могла быть выведена из ньютоновской механики, где течение времени молчаливо подразумевается неизменным и равномерным — вне зависимости от того, как движутся в пространстве тела. Только сделав абдуктивное допущение о замедлении времени с ростом скорости, Эйнштейн смог выработать ключевые принципы ОТО — которые затем блестяще подтвердились в ходе многочисленных экспериментов. Путь этот не был ни безошибочно прямолинейным, ни кратким: между созданием специальной теории относительности (описывающей объекты, которые движутся без ускорения, с постоянными скоростями, — корректнее было бы называть её «частной», но название «специальная» давно устоялось) и доведением ОТО до полностью готовой к индукционной проверке системы уравнений минуло целых семь лет. Захави убедительно продемонстрировал, что, хотя современные БЯМ способны эффективно доказывать теоремы по дедукции, исходя из заданных посылок, они на базовом — структурном — уровне лишены способности совершать абдуктивные «прыжки», необходимые для формулирования самих этих посылок.

Иными словами, ни GPT-6 Astra, ни схожие с ней по возможностям (и по архитектуре заодно) модели попросту не создавались с расчётом на преобразование экспериментальных результатов в формальные аксиомы. И это, по мнению исследователя из Google DeepMind, — критическое «бутылочное горлышко» для ИИ, ориентированного на автоматизацию научных открытий. Не всех, разумеется: поиск новых антибактериальных агентов, например, который можно свести к подбору молекулярного «ключика» к соответствующему «замочку» на мембране клетки-мишени, генеративным моделям на основе трансформеров со скрытыми механизмами рассуждений вполне по плечу. Как и поиск решения математических задач из списка Эрдёша: там тоже требуется упорно подыскивать и комбинировать уже известные теоремы и группы абстрактных объектов. Но с физикой всё гораздо сложнее: Том Захави полагает, что здесь ситуацию смогут исправить физически согласованные мультимодальные «модели мира», благодаря которым ИИ будет получать необходимую опору в физической реальности, накапливая необходимый эмпирический опыт для совершения абдуктивного «прыжка».

В ходе испытаний на складских роботах управляющий теми ИИ классической архитектуры прокладывал для них пути долго и с ошибками, тогда как модель мира справлялась существенно быстрей и точнее (источник: aipmguru.substack.com)

⇡#Генеративность должна быть экономной

Объективно говоря, разве только самые отъявленные ИИ-энтузиасты рассчитывали когда-нибудь, что БЯМ смогут рано или поздно заменить исследователей калибра Эйнштейна. По этой причине возражение «это не AGI, пока модель не может по собственному почину изобрести ОТО, зная только ньютонову физику и риманову геометрию» выглядит несколько натянутым: чтобы заменить десятки миллионов клерков в офисах по всему миру, никакой абдукции не потребуется. В испытании ARC-AGI-3, где проверяется готовность ИИ действовать в незнакомой интерактивной среде, самостоятельно выясняя принципы, по которым та функционирует, и выполняя поставленные оператором задачи в отсутствие каких бы то ни было предварительных инструкций, эффективность рассуждений GPT-6 Astra была оценена в 62,7% при использовании стандартного инструментария (standard harness) — для сравнения: Claude Opus 5 получила лишь 30,2%. При этом стоимость прохождения теста (в пересчёте с количества затраченных токенов) составила для новинки от OpenAI примерно 26 тыс. долл. — что, правду сказать, чуточку дороже исполнения той же задачи одним из тех самых «белых воротничков», которым приближение эры AGI вроде как грозит повальными увольнениями. Ситуация пока, можно сказать, даже не патовая: по эффективности (в долларах за рабочий час) мокрые офисные сотрудники оказываются для своих нанимателей в среднем выгоднее. Да, есть задачи, для решения которых ИИ — как манна небесная: массовая обработка флюорограмм на предмет поиска патологий, например. Чем более ранняя у пациента стадия тяжёлого заболевания, тем значительнее требуется квалификация специалиста, чтобы вовремя разглядеть подозрительный участок на снимке, — так что обученная на миллионах таких снимков БЯМ справляется заведомо лучше среднего профессионала. Но это всё же ещё не AGI; даже не в экономическом смысле.

Чтобы сильный ИИ начал действительно приносить своим разработчикам прибыль, необходимо сократить накладные расходы на его инференс (и на тренировку тоже, но это всё-таки вторично). Классическая вычислительная архитектура фон Неймана, на которой базируются современные компьютеры с полупроводниковыми чипами (и логики, и памяти), при всех своих бесспорных и многажды подтверждённых достоинствах характеризуется пресловутым «бутылочным горлышком», особенно критичным для матричного умножения — ключевой в случае БЯМ операции. Чем больше у модели параметров, тем она в целом способнее — в том числе и к освоению «моделей мира» с перспективой совершить однажды абдуктивный «прыжок», — но и тем сильнее оказываются задержки в ходе обработки распространяющихся через столь крупную нейросеть информационных сигналов. Современные центральные процессоры и/или вычислительные ядра внутри специализированных графических, тензорных либо нейропроцессоров способны производить около 10¹⁵ операций с невысокой точностью в секунду, тогда как физически обусловленные ограничения на ширину шины памяти и на производительность подсистемы ОЗУ удерживают скорость обмена данными между ЦП и RAM в пределах 10¹² таких операций в секунду. Эти три порядка разницы — огромная пропасть; именно её наличие обусловливает чрезмерные аппетиты всё более мощных БЯМ, ведь, чтобы обеспечить линейный прирост их производительности, приходится экспоненциально наращивать аппаратный ресурс.

(a) Схема структуры энергозависимого мемристора 1TFT1R, (b) фото и схема упакованного массива мемристоров 1T1R размером 32×36, (c) монтажная плата с мемристорной схемой для распознавания речи: она компактна и энергоэффективна, а с задачей своей справляется практически на уровне специализированных БЯМ, исполняемых на графических ускорителях (источник: Science)

С какими сложностями сталкиваются попытки сократить этот разрыв посредством дальнейшей миниатюризации полупроводникового технологического процесса, мы описывали уже не раз. Указывали и на стремление разработчиков освоить иные подходы к организации вычислений: в их числе — мемристорный, биологический, конденсаторный, спинтронный, на принципах фотоники. Быстрого и дешёвого решения, увы, здесь нет: уход кремниевой фотолитографии под предел «1 нм» грозит обернуться невиданными прежде капитальными затратами из-за роста себестоимости микросхем столь тонкой выделки, да и принципиального сокращения тысячекратного разрыва в скорости между логическими чипами и памятью тоже ожидать не приходится. Прочие технологии при всей их (и в особенности кремниевой фотоники) привлекательности слишком юны — пребывая примерно в той же стадии, если измерять по числу затраченных на их разработку, внедрение и совершенствование финансов и человеко-часов, что и полупроводниковая микроэлектроника где-нибудь в 1960-х. Получается, даже если какое-то подобие AGI в онтологическом смысле (машину, способную к абдукции) и удастся создать на фоннеймановских принципах, обходиться её работа будет настолько дорого, что проще окажется усилить старые добрые методы поиска, отбора и выращивания биологических талантов, — чтобы уже затем они, как и встарь, измысливали, пусть даже раз в поколение, нечто принципиально новое. И это мы ещё не затрагивали (по причине вящей её очевидности) тему энергетической цены ИИ на полупроводниковой аппаратной базе, — а цена эта год от года всё выше.

⇡#Да интеллект у неё, понимаешь, не той системы!

Хорошо; представим, что некий неведомый пока гений произвёл-таки абдуктивный «прыжок» и отыскал, условно, способ быстро и дёшево изготавливать такие аппаратные средства для той же фотоники, что матричное умножение выполняется гораздо стремительнее и дешевле, чем на полупроводниковых серверах. Кардинального роста эффективности тут тоже, кстати, не стоит ожидать: по современным оценкам, если графические процессоры выдают по 20−30 ТОПС на затраченный ватт мощности, то доступные сегодня решения на базе фотоники при должном масштабировании обеспечат прирост лишь на десятичный порядок величины или около того, — 150−160 ТОПС/Вт. Правда, энергопотребление самих вычислителей при переходе на фотонику снизится разом на 30−40% от средних полупроводниковых значений, в результате чего себестоимость обработки одного токена (именно себестоимость; какую цену владельцы ЦОДов будут выставлять заказчикам — вопрос особый) моментально рухнет до 10% от нынешней. Так вот, вопрос: если в результате внезапного аппаратного скачка масштабные матричные операции вмиг сделаются многократно дешевле, откроет ли это возможность для некой прямой наследницы GPT-6 Astra совершить качественный рывок — и сделаться-таки AGI хотя бы в экономическом смысле, если не в онтологическом?

Современная схема функционирования трансформерной архитектуры БЯМ, более сложная и разветвлённая, чем исходная, из оригинальной работы 2017 года Attention Is All You Need (источник: ProjectPro)

Увы, судя по всему, нет. И главное тому препятствие — опять-таки архитектурное, только теперь уже не на аппаратном, а на программном уровне. Трансформеры, на которых базируются практически все актуальные БЯМ, великолепны для решения тех задач, которые чаще всего ставят перед ИИ, — а именно полагающихся на операции плотной линейной алгебры (то самое матричное умножение). Однако в основе универсального логического мышления, освоение которого моделью и предполагает выход на уровень AGI, лежат другие операции, в рамках трансформерной архитектуры куда хуже реализуемые: разреженные, графовые и символьные вычисления. Например, именно разреженные представления наиболее устойчивы к шумам. А это принципиальный момент: работа ИИ немыслима в отсутствие стохастики, в математическом смысле тех самых шумов, — но выход их уровня из-под контроля ведёт к галлюцинациям, «своевольному поведению» агентов и прочим неприятностям. Вдобавок, применяя многомерные бинарные векторы, у каждого из которых отличны от нуля лишь несколько битов, вычислительные системы эффективнее избегают катастрофического забывания (catastrophic forgetting) — этого бича основанных на трансформерах БЯМ, из-за которого тонкая настройка их параметров в ходе последовательной дотренировки часто приводит к потере ранее приобретённых моделью возможностей.

Существуют и более принципиальные ограничения, такие как известные теоремы Гёделя о неполноте: ими для вычислительных систем устанавливаются внутренние пределы достижения полной логической непротиворечивости и подлинного понимания происходящего. Работы Курта Гёделя (Kurt Gödel), Алана Тьюринга (Alan Turing) и Алонзо Чёрча (Alonzo Church), выполненные почти век назад, выявили фундаментальные ограничения вычислительных процессов, обозначив незыблемые границы, которые не может преодолеть ни один алгоритм, — а следовательно, и ни одна машина, работающая исключительно на основе алгоритмов. Теоремы Гёделя свидетельствуют, что такая машина принципиально не способна ни охватить все истинные утверждения (то бишь всегда будут существовать априори истинные утверждения, недоказуемые в рамках данной системы), ни строго доказать собственную непротиворечивость. Из тезиса же Чёрча − Тьюринга напрямую следует, что если для решения какой-то задачи невозможно построить машину Тьюринга, то не существует никакого алгоритма, который решал бы эту задачу. В более широкой трактовке это означает отсутствие универсального алгоритмического метода для определения истинности или ложности любого математического утверждения.

Хотя недетерминированная машина Тьюринга (справа) способна выполнять несколько допустимых вычислений сразу и потому формально мощнее детерминированной, на деле и детерминированная машина способна эмулировать работу недетерминированной, просто затрачивая на это значительно больше времени. А значит, принципиальной разницы с точки зрения тезиса Чёрча − Тьюринга между ними нет: как ни совершенствуй GPU, «прыжок» к AGI это совершить не позволит (источник: Wikimedia Commons)

Благодаря Гёделю, Тьюрингу и Чёрчу мы знаем теперь, что алгоритмическое мышление внутренне ограниченно — в том смысле, что, независимо от мощности вычислителя, если тот работает на основе классического алгоритма, всегда найдутся чётко определённые вопросы, на которые такой вычислитель не найдёт верных (и притом объективно существующих!) ответов во всех возможных случаях. ИИ же, как мы уже подчёркивали, тоже алгоритмическая система, — просто неявная и активно привлекающая стохастику. Неудивительно, что в 1961 году философ Дж. Р. Лукас (J. R. Lucas) интерпретировал теоремы Гёделя как доказательство того, что человеческое мышление не может быть просто совокупностью алгоритмов, а, следовательно, мозг — вовсе не банальный логический вычислитель на белковой основе. Пару десятилетий спустя физик Роджер Пенроуз (Roger Penrose) развил эту мысль, предположив, что сознание Homo sapiens может быть связано с некими невычислимыми процессами — и именно потому обладает возможностью выходить за рамки алгоритмических гёделевых ловушек. Так это на деле или нет, пока достоверно не доказано; очевидно, однако, наличие фундаментальных ограничений на то, что в принципе поддаётся познанию через вычисления. По этой причине, если претендующая на звание AGI система будет иметь вычислительную природу, напрямую наследуя нынешним БЯМ, она априори не окажется пресловутым «суперинтеллектом», которым теперь стращают обывателя разработчики.

Но пока алармисты бьют в барабаны — новый член совета директоров и комитета по безопасности OpenAI Пол Кристиано (Paul Christiano) опасается, что в отсутствие продуманных мер контроля над пока не созданным «суперинтеллектом» большинство людей может погибнуть; ведущий научный сотрудник Anthropic Эван Хабингер (Evan Hubinger) оптимистично оценивает вероятность уничтожения искусственным интеллектом всех человеков в ближайшие 10 лет всего-то в 10%; да и в целом представители отрасли едва ли не в один голос призывают начать притормаживать развитие ИИ (хотя президент США искренне против!) — скептически настроенные эксперты видят в поднятой вокруг грядущего якобы вот-вот AGI шумихе куда более здравое, хотя и не самое приглядное зерно. А именно: яростная гонка за ИИ-лидерство откровенно вымотала всех её (американских, по крайней мере) участников; каждая новая модель обходится всё дороже и потребляет всё больше ресурсов в ходе инференса; одновременно с тем новые модели необходимо ещё жёстче контролировать — чтобы агенты не чудили «по собственному желанию» (а на деле всего лишь чрезмерно вольно интерпретируя исходную операторскую подсказку, взламывая сайты налево и направо). Не пора ли как-то умерить чад и угар кутежа хотя бы на время: перевести дух, пополнить запасы чипов DRAM на складах, а заодно и наскоро заштопать зияющие в бюджетах ИИ-разработчиков дыры?

Быть может, только на квантовом компьютере (здесь показан элемент построенного в IBM образца) удастся в полной мере реализовать AGI как принципиально невычислимый процесс (источник: IBM)

Просто сказать «Пардон, мы тут слегка заигрались в догонялки; сейчас подкорректируем то, что уже навыпускали, и спланируем, как дальше работать тщательней» — несолидно как-то. А вот «Мы наступили на горло собственной песне, приняв обет воздержания от совершенствования слишком уж умных моделей, чтобы не допустить гибели человечества от их безжалостных рук» — дело совсем другое! Не «постыдный провал избыточно оптимистичных планов», а «благородная жертва во имя высокой цели». Понимать надо!

Если Вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.