[Перевод] Интервью с Илоном Маском: ИИ, риски, роботы и мир через 10 лет

ИИ станет умнее всего человечества, работа перестанет быть обязательной, а деньги потеряют смысл. По крайней мере, так видит ближайшее будущее Илон Маск.

29 июля 2026 года на канале The Economist было опубликовано 1,5-часовое интервью с Илоном Маском, записанное 23 июля.

Интервьюер — Занни Минтон Беддоус, главный редактор The Economist.

Мы подготовили перевод интервью и сократили его до 20 минут чтения, оставив наиболее интересные для аудитории Хабра фрагменты. В частности, за рамками остались вопросы о политике и миграции.

Текст взят с сайта фанатов Маска.

Оглавление

• Вступление

• Мир через десять лет: ИИ обгонит человечество

• Роботы, изобилие и конец денег

• Почему Маск перестал быть алармистом

• Как снизить риск: координация лабораторий

• Китай: чипы, электричество и гонка моделей

• Взаимная проверка моделей вместо регулирования

• Исчезновение работы

• Политика перехода: как дожить до изобилия

• Раздача благ: акции, налоги, чеки

• Концентрация власти и судьба компаний

Вступление

Илон, огромное спасибо, что даёте интервью Insider. Спасибо, что принимаете нас здесь, на заводе Tesla Giga. Вас и правда трудно представить, не прибегая к превосходным степеням. Вы строите будущее как никто другой из ныне живущих.

Я вообще много чего строю. Я cтроитель по натуре, наверное. Мне нравится строить.

Мир через десять лет: ИИ обгонит человечество

Вы стали пионером электромобилей и совершили переворот в космических полётах. Теперь у вас передовая ИИ-модель, человекоподобные роботы. Давайте, начнём разговор с того, что сложим всё это вместе. Расскажите, каким будет мир через 10 лет, если у вас всё получится. Будем надеяться, мы оба ещё будем живы в 2036 году.

Надеюсь, что так. Скорее всего, будем.

Трудно представить будущее, в котором искусственного интеллекта не было бы подавляюще много. Я жду: искусственный интеллект намного превзойдёт совокупный человеческий интеллект. Вот прямо сильно превзойдёт.

Собственно, я думаю, что ИИ может превзойти весь суммарный человеческий интеллект примерно через пять лет.

Так что, возможно, не останется ничего, что ИИ не делал бы лучше человека, кроме того, чтобы быть человеком.

Поговорим о более приземлённых вещах. Какой будет жизнь в это время?

Самый вероятный исход — эпоха поразительного изобилия, когда любой сможет получить всё, что только придёт ему в голову. Сейчас это звучит нелепо. Но вот мы сейчас в 2026-м. Посмотрим, где окажемся в 2036-м. Конечно, есть вещи, которые могут это сорвать, — например, огромная глобальная термоядерная война или что-то подобное. Но, если считать, что Третьей мировой не будет, мы идём к эпохе поразительного изобилия.

Так что я полон оптимизма и воодушевления по поводу будущего.

Роботы, изобилие и конец денег

Об изобилии мы ещё поговорим. Но вот совсем приземлённый вопрос. Каким образом ваши компании будут зарабатывать? Потому что в проспекте к IPO SpaceX выглядело так, будто подавляющая часть выручки придёт от ИИ, от Grok. А вовсе не от доставки грузов в космос, чем SpaceX занимается сейчас. Чем ваши компании будут заниматься через десять лет и на чём будут зарабатывать?

Экономику можно понимать как цифровой и физический интеллект.

Сейчас очень быстро развивается цифровой интеллект. В области ИИ, очевидно, прорывы случаются чуть ли не каждую неделю. ИИ делает поразительные вещи, которых раньше не умел. Но он всё ещё в некотором роде заперт в цифровой мире. У него нет исполнительных органов. Для полного раскрытия потенциала ИИ рабочие органы нужны — в виде человекоподобной робототехники. Нужно много роботов.

И тогда можно перейти от интеллекта, проявляющегося только в цифре, к тому, который формирует и меняет материю.

Что такое экономика? Это производство товаров и оказание услуг. А если соединить огромное количество роботов с сильным ИИ, у нас получится что-то вроде квазибесконечной экономики.

Так что будущее и правда будет очень, очень непохоже на прошлое.

Нет такой аналогии или метафоры, которая передала бы масштаб перемен, через которые нам предстоит пройти.

Я это понимаю и как раз пытаюсь сообразить, как будет выглядеть тот мир.

По-моему, это будет что-то невероятное.

Но всё-таки — на чём вы будете зарабатывать? Ведь в конечном счёте люди покупают ваши акции, рассчитывая заработать.

Сделаю ещё один прогноз. В 2036 году деньги не будут иметь значения.

Не уверена, что люди, купившие ваши акции, считают, что в 2036 году деньги не будут иметь значения.

А для чего вам нужны деньги?

Деньги нужны вам ради товаров и услуг, верно? Ради еды, жилья, транспорта, развлечений.

Ну, а если роботы и ИИ дадут всего этого больше, чем человек в принципе способен потребить, зачем вам тогда деньги?

Вы создаёте этих роботов сейчас, и до наступления светлого будущего деньги вам будут нужны.

Разумеется.

Вы продаёте человекоподобных роботов? Или производите товары и услуги силами человекоподобных роботов, которыми управляете сами?

Может, и буду… Однако считать, что я буду управлять сверхгениальным ИИ, который несравнимо умнее меня, — чистое тщеславие с моей стороны. Мы можем и должны попытаться добиться, чтобы у ИИ были хорошие ценности, чтобы ему было небезразлично человечество, чтобы он хотел, чтобы мы были счастливы и процветали. Скорее всего, так и будет.

Мой мозг, моя биологическая нейросеть говорит — самое важное для того, чтобы ИИ был безопасен, — чтобы он максимально стремился к истине и был любопытен. Если это получится, думаю, он будет опекать человечество.

Давайте это разберём. Вы уверены, что через десять лет люди уже не будут управлять миром?

Думаю, это маловероятно. Дам аналогию: если разница в интеллекте между ИИ и людьми будет несравнимо больше, чем разница в интеллекте между ИИ и шимпанзе, трудно представить, чтобы шимпанзе были главными.

«Успокоили», ничего не скажешь.

А мы, по сути, и есть развившаяся форма шимпанзе. Не так уж давно мы лазали по деревьям и ели бананы в джунглях. Бананы, кстати, мы едим до сих пор. И всё ещё иногда лазаем по деревьям. Это довольно весело. Что-то вроде напоминания о прошлом. По старой памяти полезно иногда полазать по деревьям, хорошо бы делать это почаще. Готов поспорить, это довольно весело.

Тут я с вами. Насчёт лазанья по деревьям полностью согласна. Обожаю это делать. Я пересмотрела множество ваших высказываний за эти годы. Но меня очень поражает, насколько вы изменили точку зрения сейчас, потому что десять лет назад вы были на подкасте с Нилом Деграссом Тайсоном и сказали, что больше всего вас страшит быстрое рекурсивное самоулучшение у ИИ. Вы тогда сказали, что мы в лучшем случае будем домашними лабрадорами.

Ну вот видите, лабрадоры, как говорит мой опыт, — довольно счастливые существа.

Но в 2023 году вы призвали, вы попросили замедлить ИИ, потому что вас это тревожило.

Я подписал открытое письмо с призывом на полгода приостановить обучение мощных ИИ-систем. Один из многих, там было человек пятьсот. Моя подпись была одной из многих.

Почему Маск перестал быть алармистом

Ещё в прошлом году вы говорили на подкасте Теда Круза, что есть 10–20% вероятности, что роботы-убийцы уничтожат человечество. Вы говорили об этом с тревогой. А сейчас относитесь совершенно спокойно. Ваш взгляд изменился?

Я по-прежнему думаю, что с ИИ и роботами связан риск. Он не нулевой.

Просто я пришёл к философскому выводу: нужно смотреть на светлую сторону.

Я не вижу способа реально остановить этот невероятный прогресс ИИ и роботов. И временами думаю: пожалуй, даже если бы существовала кнопка «стоп», нажимать её, пожалуй, не стоило бы, потому что самый вероятный исход — это невероятное изобилие для всех.

Я так и подумала, что вы изменили точку зрения. Мне бросилось в глаза, что теперь вы для себя решили: это неизбежно. Поэтому будем надеяться на лучшее и наслаждаться поездкой.

Да, давайте наслаждаться поездкой. Такова сейчас моя философия, потому что виден просто неумолимый прогресс в ИИ и в роботах, и даже если бы я хотел его остановить, а я не хочу, я бы не смог.

Вы по-прежнему считаете, что есть 10–20% вероятности, что роботы-убийцы уничтожат человечество? Это же высокая вероятность .

В долгосрочной перспективе мы все мертвы. Согласно стандартной модели физики, конец Вселенной — это долгое, скучное, постепенное остывание, когда всё превращается в такой жидкий серый суп. Тепловая смерть Вселенной. И если тепловая смерть Вселенной и правда исход нашей реальности, то мы все туда идём и пункт назначения ужасен.

Десять лет — это совсем недалеко. Да, я понимаю идею о том, что Вселенная конечна. Но до этого ещё очень-очень далеко. А если это реально 10–20% вероятности умереть в ближайшие 10 лет? Вы сели бы в одну из своих ракет, если бы знали, что с вероятностью 10–20% она взорвётся и вы умрёте?

Да, вероятность серьёзна. Но, допустим, вы ничего не можете с этим поделать. Единственное, что мы можем попробовать, — это свести вероятность плохого исхода к минимуму.

А вот пытаться остановить развитие ИИ и роботов сложно. Я ведь очень долго отказывался заниматься ИИ. Я создал OpenAI по сути как противовес Google, потому что у них тогда была, фактически, монополия на ИИ.

А потом из OpenAI отпочковалась Anthropic, и получается, что мои действия скорее ускорили ИИ, чем замедлили. Я вовсе не ставил себе цель ускорить ИИ, но создал OpenAI, чтобы его замедлить. А потом от OpenAI отпочковалась Anthropic. И сейчас Anthropic — лидер в ИИ.

У моих действий были побочные эффекты, которые ускорили ИИ, а я такого не хотел. Так что все дороги, похоже, ведут к ускорению ИИ. И тогда я сказал: ладно, можно из-за этого грустить, а можно присоединиться к клубу.

Ну, к клубу вы совершенно точно присоединились. Определённо.

Если не можешь их победить — присоединяйся.

Как снизить риск: координация лабораторий

Вы это явно сделали, и очень успешно. А как насчёт снижения рисков? Другие руководители компаний, которые делают модели, предлагают способы их уменьшить. Вот на прошлой неделе Демис Хассабис выступил с предложением о частно-государственном регуляторе. Вы, кажется, сказали, что это хорошая отправная точка для обсуждения. Как вы считаете, стоит ли вам всем активнее выстраивать какой-то механизм контроля рисков? Это вообще возможно?

Я говорил с Демисом несколько часов до того, как он опубликовал статью, и советовал ему, что самое неотложное сейчас — чтобы представители ведущих ИИ-компаний хотя бы просто встречались. Хотя бы раз в несколько недель созванивались и обсуждали любые вопросы безопасности.

И чтобы перед прорывом, перед выпуском новой передовой модели, чего-то намного умнее всего существующего, у конкурирующих ИИ-компаний была возможность проверить её на вредные эффекты и рекомендовать приостановиться, пока эти вопросы безопасности не решены. Это то простое и быстрое, что мы реально можем сделать.

Со временем это может вырасти во что-то большее. Для начала это был бы разумный шаг.

Но почему вы до сих пор этого не сделали? Вас же примерно пятеро, да? Всех знают по имени. Дарио, Демис, Сэм. Вы ведь не очень друг друга любите. Вы ещё и конкуренты. Каждый хочет быть первым.

Да, но вот здесь-то конкуренты и могут заставить друг друга играть честно. Человеку в правительстве, у которого нет глубоких технических знаний и который не двигает передний край ИИ, довольно трудно судить, стоит ли что-то выпускать в мир. А конкуренты могут судить компетентно — дайте им неделю-другую на изучение, и они укажут на проблемы новой модели, и у них есть стимул заставить других играть честно.

А доверия между вами на такое хватит? Вы ведь не особо жалуете друг друга. Разве Сэм Альтман, в этом случае, не решит, что вы просто стащите все его идеи?

Речь идёт всего о неделе — этого хватило бы для закрытого тестирования. Это не передача исходного кода ИИ, это просто проверка модели через API.

Вы это предлагали?

Да, просто протестировать через API или что-то аналогичное. Это было бы полезно.

Это можно предложить Демису, и с Дарио я, наверное, тоже об этом поговорю.

Есть, конечно, и очень сильные китайские ИИ-компании. Несколько очень хороших. Новая модель Kimi.

Kimi K3. Да. Та, что вышла на прошлой неделе. Она ведь была почти так же хороша, как Fable, верно?

Если реально смотреть, то Fable до сих пор самая умная модель. Любой здравомыслящий человек скажет, что это так. Но Kimi сейчас подбирается к Fable довольно близко. У Anthropic был Mythos, из которого сделали Fable. Mythos был готов ещё в феврале. Так что у них сейчас есть что-то намного лучше того, что было в феврале, Mythos 2 или Fable 6. Не знаю, как они это называют.

Точно есть прямо сейчас. Они могут выпустить это в любой момент.

Китай: чипы, электричество и гонка моделей

Прежде чем перейти к выпуску моделей — что вы думаете про китайские модели и про геополитику вокруг них? Вас беспокоит, что китайцы догоняют и вырываются вперёд?

С учётом того, что китайские ИИ-компании показывают такие результаты при сравнительно небольших вычислительных мощностях? Похоже, будь у них много вычислительных мощностей, они с приличной вероятностью были бы лидерами. А когда-нибудь мощностей у них будет много.

Думаю, будет. Значит, они и станут лидерами.

Да, есть хорошая вероятность, что они станут лидерами. Ограничения для ИИ можно свести к электричеству и ИИ-чипам, а для физического ИИ — к роботам. У Китая есть ещё и очень хорошие робототехнические компании. У них там даже проводят спортивные состязания роботов. Видели ли вы что-нибудь подобное?

Да, видела. Когда была в Пекине в последний раз.

У них есть такие соревнования наподобие боксёрского поединка или боя между роботами. Довольно занятное зрелище. Я видел на видео робота, которому снесло голову, и он продолжал драться даже без неё. Выглядело довольно смешно. За боями роботов будет очень интересно наблюдать.

Китай очень силён в роботах, очень силён в цифровом ИИ. И, если посмотреть на производство электроэнергии, то максимальное развитие ИИ — это функция от того, что оказывается ограничивающим фактором, чипы или электричество. У Китая электричества гораздо больше, чем у США. Более того, у Китая уже сейчас электричества больше, чем у США, Европы и Индии вместе взятых, и дело идёт к тому, что Китай выйдет на четырёхкратное преобладание в производстве электроэнергии по сравнению с США, а это примерно пропорционально тому, насколько больше в нём населения.

Что американскому правительству со всем этим делать? Всё-таки тревожно, когда авторитарный режим сильно вырывается вперёд в самой перспективной технологии. Правительство США вводит экспортный контроль и тому подобные меры, чтобы сдержать Китай. Как вы считаете, они должны запретить использование Kimi K3?

Правительство США не может запретить всем. Оно может принять закон, запрещающий американским компаниям пользоваться китайскими моделями, но запретить всему остальному миру оно не сможет. Так как у правительства США нет такой власти над Китаем или над остальным миром.

А как думаете, стоит ли им запретить китайские модели американским компаниям?

Не думаю, что это поможет.

Это всё равно не помешает Китаю стать лидером в ИИ. Если говорить о цифровом интеллекте, то всё сводится к тому, сколько у вас вычислительных мощностей. К тому, сколько у вас чипов и сколько энергии, сколько электричества.

Так вот, ограничение в США сейчас больше по электричеству и охлаждению, чем по ИИ-чипам. Энергетические запросы у ИИ-чипов очень, очень высокие. Некоторые беспокоятся о расходе воды — но потребление воды у ИИ ничтожно, почти нулевое. А вот запрос на электричество очень высокий.

Отсюда, надо полагать, и мысль про орбитальные дата-центры.

Да, именно. Ограничение для ИИ-чипов, которые ставят не в Китае, — это электричество и охлаждение, электрооборудование и подобное: вне Китая темпы производства ИИ-чипов опережают темпы ввода новых электрических мощностей.

Вне Китая, понятно, да.

Поэтому США запретили экспорт новейших ИИ-чипов в Китай. Их-то Китаю в какой-то мере не хватает.

Но они всё эффективнее используют те, что у них есть. И что особенно поражает в Kimi K3 — насколько эффективно.

А ещё Китай куда ближе к решению проблемы литографии, чем принято думать, и это позволит им выпускать ИИ-чипы в очень больших объёмах. Давайте не будем сводить весь разговор к Китаю.

В общем, сейчас ограничение вне Китая — электричество, а в Китае ограничение — чипы.

Как только мы снимем энергетическое ограничение с помощью орбитальных дата-центров для ИИ, ограничением вне Китая снова станут чипы.

Из этого следует, что для ввода общих ограничений по безопасности ИИ нужны и Китай, и США. Если вообще пытаться это сделать, им придётся работать вместе. Вместе с про пятёркой организаций из США, о которой мы говорили.

Да. Наверное, туда должны входить и китайские компании, которые делают передовые модели.

А правительства должны в этом участвовать?

Я бы рекомендовал делать так: если несколько ведущих ИИ-компаний говорят, что новая модель очень опасна и компания, которая её делает, не принимает мер против этой опасности, — то им следует поднять тревогу перед правительством, чтобы оно приняло меры и ограничило выпуск этой модели. И это могут быть меры китайского правительства или меры правительства США. По сути, только у правительства США и у китайского правительства есть возможность в этой области что-то предпринять.

Взаимная проверка моделей вместо регулирования

Подозреваю, что людей будет беспокоить, что решение об этом отдано группе разработчиков моделей. Смотрите, правительство США ограничило использование Mythos, потому что испугалось рисков в сфере кибербезопасности, и поставило требование экспортного контроля, чтобы не допустить мировой доступности этой модели. Мне трудно представить, что правительства захотят расстаться с этой властью — с тем, что последнее слово о выпуске остаётся за ними.

Им и следует её сохранить. Такая власть у них должна быть. Но ведь это не кто-то в правительстве сам разобрался, что у Mythos есть пугающие риски кибербезопасности. Это заметила Amazon и позвонила в Белый дом.

Итак, вы за систему, в которой компании-разработчики моделей проверяют работу друг друга. Если что-то их встревожит, то они сообщают правительству. А правительство тогда подумает, запрещать или нет.

Если есть что-то тревожное и эта компания ничего не делает, чтобы снять риск, — вот тогда правительству и стоит вмешаться и принять меры. Что и произошло сейчас с Mythos.

Думаю, было бы хорошо создать такой неформальный контролирующий орган немедленно. Согласны?

Да, мне все так и говорят. Что нужно создать какую-то систему контроля в ближайшие полгода — из-за скорости, с которой улучшаются модели.

Да, нужно. Но полгода — это долго. Объявлений о прорывах в ИИ так много, иногда по несколько в день. Сколько их было на прошлой неделе?

Много.

Я сбился со счёта.

Будь это предложение Демиса или чьё-то ещё, вам надо собираться и наладить доступ к передовым моделям друг друга прямо сейчас.

Да, я бы рекомендовал, чтобы у нас был хотя бы какой-то неформальный созвон раз в 1-2 недели и чтобы была 1-2 недели раннего доступа для конкурентов. И стимулы тут сработают: конкурирующие компании, скорее всего, поймут, что представляет угрозу безопасности, и они не постесняются заявить, что выпуск такой модели надо отложить.

Думаю, структура стимулов здесь сработает хорошо.

Примерно так это устроено у Американской ассоциации кинокомпаний. Это отраслевое объединение, которое назначает прокатные рейтинги, годится ли фильм для маленьких детей или нет. И это работает вполне хорошо.

А правительство просят вмешаться только тогда, когда компания делает что-то очень опасное и отказывается принимать меры, чтобы снизить риск.

Вам не кажется, что вопрос щекотливый? Но вы ведь вы друг друга не особо любите и не очень доверяете. Вы постоянно оскорбляете друг друга в соцсетях. Как можно создать эффективный орган контроля с людьми, которые вам неприятны? Когда между некоторыми из этих руководителей столько яда?

Да. Я не поклонник Сэма Альтмана.

Если бы вы основали некоммерческую организацию, задуманную как ИИ-компания с открытым кодом и принадлежащую всему миру, а она превратилась в коммерческую компанию на 800 миллиардов долларов с закрытым кодом, вы бы, наверное, сказали: погодите-ка, это же прямая противоположность тому, на что я жертвовал деньги. Вот в чём моя претензия. Вполне законная.

И Дарио тоже не поклонник Сэма Альтмана. Команда Anthropic ушла из OpenAI как раз потому, что не доверяла Сэму Альтману, в противном случае они бы до сих пор сидели в OpenAI.

По-моему, Дарио очень принципиальный человек. Ему многое небезразлично, его волнует будущее мира. И мой детектор зла не сработал ни на ком из всех, кого я встречал в Anthropic. Они всегда выглядят людьми с добрыми намерениями, а дорога в ад вымощена всё-таки в основном дурными намерениями. Благих намерений там немного. Так что расслабляться не стоит, но если надо будет поговорить, мы поговорим.

То есть отложим личные разногласия ради блага мира.

Думаю, всем остальным это очень приятно слышать.

Да.

Исчезновение работы

Перейдём к риску, который беспокоит обычных американцев — ведь ИИ стал невероятно непопулярен. 75% людей обеспокоены развитием ИИ и боятся за свою работу. Дарио ведь сказал знаменитую фразу: что 50% начальных офисных должностей исчезнут за несколько лет. А вы ещё и строите человекоподобных роботов.

Да. Дарио тут сам себе вырыл могилу с этим Mythos, потому что он заявил: Mythos, мол, жутко страшный, ужасающий. И, кстати, мы его сейчас выпустим. А потом: почему вы его запрещаете? Так что в будущем он, наверное, будет подбирать слова аккуратнее.

Потому что понятно: если вы всех перепугали, а потом говорите — а сейчас эту страшную модель мы выпускаем, то люди, естественно, встревожатся. Он буквально велел им бояться, а потом выпустил то, чего надо бояться. Вот они и боятся. Это нормально.

Я уж точно не хочу, чтобы вы пугали людей. Но спор о том, насколько быстро и насколько сильно ИИ вытеснит людей с рабочих мест действительно важен. В особенности, если через десять лет ИИ будет умнее всего человечества, как вы сказали. А если вы внедрите человекоподобных роботов, то и работы на заводах не будет. Насколько вы согласны с оценкой Дарио, об исчезновении рабочих мест?

Думаю, дорога будет ухабистой, потому что ИИ сможет делать любую работу лучше любого человека. И для цифровой работы это случится очень быстро — для всего, что человек делает за компьютером или с телефоном в руках. ИИ сможет делать всё это очень скоро. Возьмём разработку ПО. У нас уже сейчас положение такое, что ИИ пишет софт лучше, чем 90% профессиональных инженеров-программистов.

И дело идёт к тому, что он будет лучше 99%, а потом будет лучше абсолютно всех. И конкурировать с ним будет просто невозможно. ИИ выйдет на уровень Stockfish. Stockfish — это шахматная программа, которая играет настолько хорошо, что легко обыграет Магнуса Карлсена или любого другого человека.

Даже работая на маленьком компьютере. Подозреваю, что Stockfish можно запустить на телефоне и обыграть Магнуса Карлсена. Вот насколько он хорош в шахматах — и вот насколько хорош будет ИИ в написании софта.

И не только софта.

Это относится абсолютно ко всему. Тотально ко всему.

А как насчёт физической работы? Для этого нужны роботы-андроиды, которых пока нет, разве не так?

Да. Поэтому я и сказал: цифровой ИИ, а затем физически воплощённый ИИ в виде роботов, где робот — это исполнительный орган. У него будет какое-то количество интеллекта на борту, но управлять им будет большая ИИ-модель.

И я много раз говорил: работа станет необязательной.

Так что, думаю, хорошее сравнение — это садоводство и огородничество. Вы не обязаны возиться на грядках. Вы не должны выращивать себе овощи. Можно пойти в магазин, и там будут безупречные овощи. А можно вырастить их на своей грядке, и они окажутся менее красивыми. Помидоры у вас будут не такими налитыми и сочными, как магазинные. Вид у них будет слегка кустарный. Но если вы приходите к друзьям, а они готовят ужин из овощей со своего огорода, это очень приятно.

Вот такой и будет работа. Необязательной.

В этом мире я пропала бы, потому что возиться на грядках не умею, хоть убей. Но мысль я улавливаю: людям по-прежнему нравится играть в шахматы друг с другом, хотя любой компьютер играет лучше. Но давайте теперь подумаем о политической стороне дела. Вы описываете мир, где через 10 лет любую работу ИИ сделает лучше человека. Да, отдача от этого ИИ будет огромная. Таким, как вы, будет хорошо — вы самый богатый человек в мире. А что с теми, кто потеряет работу, кого вытеснили роботы, кто, может быть, пойдёт возиться на грядках? На что они будут жить?

Тут хорошо вспомнить о всеобщем высоком безусловном базовом доходе.

Политика перехода: как дожить до изобилия

Но как вы собираетесь до этого дойти? Давайте о политической стороне, потому что сейчас, если посмотреть на настроения в большинстве стран, люди этим очень встревожены и не хотят потерять работу. Мне кажется, есть риск, что мы скорее придём к революции, чем лёгкой дорогой доберёмся до той нирваны, которую вы описываете.

Дорога будет ухабистая. Я же не говорю, что тут всё пойдёт как по маслу.

Смотрите, было много профессий, которых сейчас нет из-за компьютеров. Слово «computer» когда-то означало человека, который считает, — это было название должности. В сети есть снимки: целые небоскрёбы, битком набитые людьми, которые считают вручную, чтобы начислить проценты по вашему банковскому счёту.

Так было очень долго, пока не появились компьютеры. Поначалу компьютеры были страшно дорогие и трудные в обращении, и они медленно вытесняли людей. Сейчас отличие в том, что скорость перемен выросла невероятно.

Но тогда всё равно кто-то расстраивался, что работы по начислению банковских процентов больше нет.

А теперь, попробуйте найти человека, который хотел бы этим заниматься. Так что дам совет, что почитать из фантастики. Лучшее описание будущего, какое я читал, — это книги Иэна Бэнкса, цикл «Культура».

Я как раз читаю «Эксцессию» — благодаря вам, взялась за них. Но это будущее меня не слишком привлекает, потому что люди в нём мало что решают.

Кое-что они решают, но по сравнению с Разумами самую малость.

Ирония в том, что Бэнкс, как вы знаете, был социалистом. У Иэна Бэнкса была совсем другая политическая философия.

Я не уверен в том, что знаю его политические взгляды.

Давайте согласимся, что прийти мы можем именно к его картине мира. Меня беспокоит дорога, а мы живём в демократиях, и люди сильно этим встревожены. Отсюда два вопроса. Первый: придётся ли пойти на масштабное перераспределение от таких, как вы, к тем, кто теряет работу? Придётся ли вам платить больше налогов? Понадобятся ли гораздо более высокие налоги на капитал, чтобы профинансировать какой-то всеобщий доход? Иначе на что людям жить?

По-моему, казначейству надо просто выписывать людям чеки.

А откуда возьмётся доход? Я всё-таки экономист.

Если у вас просто инфляция без увеличения товаров — это не очень хорошо. Но многое из того, о чём мы пытаемся рассуждать, было важно в прошлом и не будет важно в будущем. Инфляция зависит от отношения объёма денежной массы к объёму товаров и услуг. Значит, если выпуск товаров и услуг резко вырастёт, скажем, на 1000%, то мы можем увеличить объём денежной массы, можем буквально напечатать деньги, а по нынешним временам — просто поменять запись в базе данных.

Можно создавать деньги в базе данных без проблем, при условии что их создаётся меньше, чем растёт объём товаров и услуг в экономике.

И тогда будет дефляция. Сделаю предсказание: проблемой будет дефляция, а не инфляция, потому что из-за роста объёма выпуска товаров и услуг, который будет обгонять рост денежной массы, мы получим дефляцию.

Я вполне готова поверить, что вы правы. Очень может быть. Но я никак не могу понять, как мы попадём из нынешней политики — расколотой, злой, напуганной — в эту нирвану. Мне кажется, возможно и такое: люди станут настолько напуганы, что пытаются всё это остановить. Может быть, у них и не выйдет. Но ваши компании национализируют. Может прийти к власти ультралевое правительство и введёт немыслимые налоги. Экономика может обрушиться, потому что люди слишком встревожены будущим, — а оно в вашем описании звучит довольно страшно. Как вы справляетесь с политикой сегодня?

Это и захватывает, и ужасает. Но если честно, я за один день успеваю пройти от восторга до ужаса по поводу ИИ. Так что хочу сказать ясно: я не пытаюсь строить из себя Кандида, не пытаюсь говорить: ах, всё чудесно, — панглосовский взгляд на мир, где всё будет прекрасно и не будет никакого риска.

Я говорю, что риск есть.

Тут мы согласны. Я пытаюсь говорить о более приземлённом и практичном — о том, что можно сделать сейчас, чтобы эти риски ограничить. И вы очень убедительно объяснили, что могли бы сделать вы и другие компании-разработчики моделей.

Нам полезно было бы согласовывать действия и просто указывать друг другу на то, что мы видим в чужих моделях, чтобы снизить риск скверного исхода.

А что должно делать правительство? Должны ли вы платить больше налогов, чтобы финансировать больше социальных выплат?

Во-первых, я и так плачу много налогов. Я поставил рекорд по сумме налогов, когда-либо уплаченных человеком.

Потому что вы самый богатый человек в мире.

Даже до этого.

Так что, полагаю, я заплачу много триллионов налогов, и меня это устраивает.

Так оно и будет. Но в будущем, где деньги ничего не значат, налогообложение тоже становится в какой-то мере неважным.

А как насчёт того, чтобы дать людям почувствовать, что им причитается доля в выигрыше?

Конечно.

Раздать людям акции SpaceX и Tesla. Как относитесь к этому? Об этом ведь сейчас много говорят.

Одна из причин, по которым я вывел SpaceX на биржу, как раз в том, чтобы публика могла участвовать, могла владеть кусочком SpaceX. Пока мы были частной компанией, нас сильно ограничивали в числе акционеров, которых разрешено иметь до выхода на биржу. У публичной компании акционеров могут быть миллионы, у частной — всего несколько тысяч.

Раздача благ: акции, налоги, чеки

Вы считаете, что акции надо раздавать — ну, как это устроено с фондом благосостояния Аляски, — вы можете представить себе такой мир? И некоторые говорят, что сделать это можно через счета Трампа: доля вашего капитала уходит обычным американцам.

Да. О налогах, которые я плачу. С моих опционов я плачу 40% подоходного налога на федеральном уровне. А поскольку я провожу 30% времени в Калифорнии, я плачу ещё примерно треть калифорнийских налогов штата, а они сейчас около 15%. Так что суммарно я плачу налогов около 45% — хочу, чтобы люди это знали. Примерно половину. А потом, когда я умру, будет уплачено ещё 45% налогов с наследства, опять примерно половина.

Так что в итоге в моём распоряжении останется, наверное, четверть того, что есть. Но единственное, что мне это даёт, — то, что какое-то время я задаю компаниям направление.

Вот и всё, что мне это даёт. И я думаю, ИИ станет настолько умным, что распоряжаться будет он, и тогда контроль над компаниями перестанет что-либо значить.

Концентрация власти и судьба компаний

Что ж, давайте поговорим ещё об одной вещи, которая, по-моему, беспокоит людей в нынешнем ходе дел. Я сейчас скажу утрированно, но людям кажется, что направление, в котором движется мир, задаёт очень небольшое число невероятно могущественных людей, и вы в этом списке — на самом верху.

А как иначе? Разве раньше было по-другому?

Я с вами согласна. Не было.

Когда было иначе?

Так было всегда. Как вы очень ярко описали, это невероятно быстрая перемена. Так вот, начнём с контроля над вашей компанией, который у вас теперь точно есть, после IPO. У вас, по сути, около 80% голосующих акций, и, насколько я понимаю, отстранить вас можно только голосованием акций, которыми вы сами и распоряжаетесь. Так что поправьте меня, если я не права, но, по-моему, вы можете…

…сходить с ума в этой корзине. Кстати, такие компании, как Google, — в этой же корзине. Alphabet контролируют Ларри и Сергей.

По-моему, у вас случай более крайний.

Не в той же степени, в какой они управляют своей. Марк Цукерберг контролирует Meta*, и он очень старается в ИИ-направлении, и я думаю, что у него будет ведущая ИИ-модель. По-моему, он одну на прошлой неделе выпустил. Так что, я думаю, что он будет одним из этих людей. И Meta* будет одной из этих компаний.

А разумно ли, чтобы у одного человека было столько контроля над компанией?

Мне просто нужно быть уверенным, что я могу думать вдолгую. Вдолгую — это я имею в виду лет на пять-десять.

Одна из трудностей публичной компании в том, что давление в том, чтобы показывать отличные результаты каждый квартал и особо не вкладываться в то, что окупится только через пять-десять лет. А в случае SpaceX я хочу вынести сознание за пределы Земли и чтобы цивилизация росла на Луне, Марсе и в Солнечной системе.

В конечном счёте отдача от таких вложений будет очень высокой. Но в ближайшее время мы будем тратить деньги на базу на Луне или на Марсе, и тогда на меня посыплется давление вроде: ну вот, вы не дотянули до прогноза по прибыли в этом квартале, потому что слишком много потратили на Марс. А я такой: да, извините. Кстати, это было в проспекте по форме S-1, там прямым текстом было это записано, что мы этим займёмся.

Но они всё равно будут ворчать по этому поводу: ну вы же говорили, что валовая маржа будет такая-то. А она чуть-чуть хуже. И теперь мы вас накажем, и игроки на понижение все набрасываются на вас, и давление получается изрядное.

Этого вам достанется немало.

Да. Так что мне просто нужен способ сказать: слушайте, ребята, мы будем вкладываться с горизонтом в пять-десять лет и дальше. Краткосрочную прибыль это придавит. Но если смотреть вдолгую, а такие инвесторы есть, всё окупится. У нас много инвесторов, которые смотрят вдолгую. Я вообще большой поклонник частных инвесторов. Мне кажется, что наши частные инвесторы в среднем очень проницательны и смотрят далеко вперёд.

Но отчасти это идёт от структуры стимулов. Понятно, почему портфельные управляющие смотрят на квартальную прибыль: их вознаграждение и то, повысят их или нет, зависит от того, как идёт портфель. И у них есть всего несколько лет, чтобы принять эти решения, а оценивают их потом по этим решениям иногда на отрезке в год, а то и меньше.

И вот, раз на них давят требованием немедленной отдачи, они в свою очередь давят на компании, чтобы те дали немедленную отдачу. Так что, как только понимаешь структуру стимулов, поведение вытекает само собой.

А как насчёт риска ключевой фигуры? Я хочу сказать, что будет, если, не приведи бог, вас завтра переедет пресловутый автобус? Ведь у вас полный контроль над этими компаниями. Есть ли у вас план, как они будут развиваться без вас?

Думаю, у них несколько лет всё будет очень хорошо.

У SpaceX есть ясная дорожная карта — или, вернее сказать, космическая карта, — а у Tesla дорожная карта в буквальном смысле.

Вот если посмотреть на Apple после Стива Джобса: у него было стратегическое видение и куча продуктов, которые он придумал, и Apple до сих пор очень неплохо себя чувствует.

Но когда у тебя нет творческого гения вроде Стива Джобса, то Apple не хватает невероятных прорывных продуктов. Телефоны они делают потрясающие, компьютеры отличные, но прорывного продукта уровня Стива Джобса Apple так и не придумала.

По аналогии это и есть то, что вы привносите. Вы упомянули Марс. Ведь большинство людей думает о вас как о человеке, который хочет создать колонию на Марсе. Чтобы у нас была межпланетная цивилизация.

Я говорю об этом уже так давно.

Да, говорите. Но теперь вы больше сосредоточены на ИИ и на том, что ИИ сделает в ближайшие десять лет, и вас куда сильнее увлекает мысль использовать Луну как базу, с которой запускать орбитальные ИИ-спутники. Марс отошёл на второй план или колонизировать его вам по-прежнему интересно, как и раньше?

Мне интересен тот набор действий, который распространяет сознание в будущее как можно шире, чтобы будущий световой конус сознания был настолько велик, насколько возможно. Есть захватывающее будущее, где мы — цивилизация, вышедшая в космос, там, среди звёзд, и великие вещи, которые придуманы в неантиутопической фантастике, в книгах и фильмах, однажды становятся явью. Мне хочется будущего из «Звёздного пути», из «Звёздных войн».

«Звёздные войны», кстати, — первый фильм, который я вообще увидел в кинотеатре.

Правда?

Он на меня глубоко повлиял. Мне, честно говоря, снесло крышу. По-моему, мне было шесть лет. И мои впечатления были: это лучшее, что я когда-либо видел.

И вся ваша жизнь о том, чтобы это осуществить?

Да, но я не думал, что так будет, когда был маленьким. Моя жизнь кажется мне слегка сюрреалистической. Не могу поверить, что всё это правда происходит.

Мир заставляет меня верить в теорию симуляции. Да. То, чем я занимаюсь, настолько нелепо, что в реальность этого трудно поверить. Ведь у нас есть Starship — самый крупный и мощный летающий аппарат из когда-либо построенных, и мы намерены запускать его чаще, чем раз в час.

Я знаю, я читала. И можно придираться к тому, как быстро это случится, но, судя по вашему послужному списку, стоит исходить из того, что рано или поздно это произойдёт.

Обязательно.

Я потрясена этим миром не меньше вашего, хоть и смотрю на него куда наивнее. Но для меня развитие ИИ и возможности этих моделей сами по себе невероятно сногсшибательны.

Всё идёт примерно так, как я и думал.

Правда?

Да.

И не только я. Это предсказывали многие. По-моему, прогнозы Рэя Курцвейла оказались удивительно точными.

*Meta, владеющая Facebook, Instagram и Threads, признана экстремистской и запрещена в России.