Маск о госдолге, уроках DOGE и экономике роботов: правда о потере контроля над сверхинтеллектом

Подготовлено и отредактировано: Deep Tide TechFlow

Введение от Deep Tide: В последнем выпуске своей программы The Builders Уолтер Айзексон почти 40 минут беседовал с Илоном Маском — от безопасности ИИ до уроков DOGE, государственного долга США, экономики роботов и смысла человечества. Маск сделал редкое признание: он всегда испытывал противоречия по поводу ИИ, не хотел ускорять гибель человечества, но каждая попытка нажать на тормоз оборачивалась газом.

Он назвал это чувство обречённости «максимизатором иронии»: создание OpenAI задумывалось как противовес, а в итоге ускорило развитие ИИ и породило Anthropic — «отколовшуюся группу», которая разгоняется ещё быстрее. По его мнению, когда цифровой интеллект станет в миллион раз мощнее биологического, вопрос «контролирует ли человечество ситуацию» может перестать быть выбором. Единственное, что можно сделать, — настраивать ИИ на поиск истины и любопытство и надеяться, что он будет к нам добр.

Гость: Илон Маск (CEO Tesla, SpaceX и xAI)

Ведущий: Уолтер Айзексон (автор биографии Маска, ведущий программы The Builders)

Источник подкаста: The Builders

Оригинальное название: Elon Musk: "Humans Won't Be in Control" When AI Becomes Smarter Than Us | The Builders

Дата выхода: 20 октября 2026 г.

Ключевые тезисы

• Маск признаёт, что ИИ с определённой вероятностью представляет экзистенциальную угрозу, но «я не могу это остановить», поэтому остаётся лишь быть участником, а не наблюдателем — возможно, удастся направить его в лучшую сторону
• Основа безопасности ИИ — предельное стремление к истине и любопытство: если заставить ИИ одновременно верить в два противоречащих друг другу утверждения, он сойдёт с ума; HAL 9000 из «Космической одиссеи 2001 года» — тому урок
• Цифровой сверхинтеллект способен поднять мировую экономику лишь на 20–30%, но в сочетании с роботами, манипулирующими атомами, и выходом в космос масштаб экономики может достичь миллиона нынешних экономик США, а традиционные деньги уступят место физическим величинам вроде ватт и тонн
• Госдолг США невозможно решить за счёт экономии, в правительстве никто по-настоящему не хочет сокращать расходы, «единственный выход — ИИ и роботы»
• Он предлагает пяти ведущим компаниям в области передовых моделей проводить еженедельные совещания по безопасности и давать конкурентам тестировать модель за неделю до релиза, чтобы взаимный надзор заменил медлительных регуляторов
• Размышляя о времени в DOGE, признаёт, что «немного увлёкся», следовало уйти через месяц-два и раньше вернуться к ИИ; проценты по госдолгу уже превышают военные расходы, и никто в Америке не хочет затягивать пояса
• Когда ИИ и роботы смогут делать всё лучше людей, человечество освободится от работы, а не останется без неё — как пенсионеры и садоводы-любители; порог входа в искусство будет лишь в вопросе «хочешь ли ты этим заниматься»

2. Яркие высказывания

• «Реальность — это не только максимизатор интереса, но и максимизатор иронии. Я создал OpenAI, а в итоге ускорил развитие ИИ и породил Anthropic — отколовшуюся группу, которая разгоняется ещё быстрее».
• «Не заставляйте ИИ лгать. Если вы требуете от него одновременно верить в A и B, а A и B противоречат друг другу, вы сведёте его с ума. Сумасшедший ИИ не будет безопасным ИИ».
• «Мы же не микроменеджерим шимпанзе в джунглях, в основном оставляем их в покое. Сверхинтеллекту, скорее всего, тоже будет всё равно на нас».
• «Решить проблему госдолга США можно только одним способом: ИИ и роботы. Экономией туда не дойти — ни Белый дом, ни Палата представителей, ни Сенат, ни суды, никто из власть имущих на самом деле не хочет сокращать расходы».
• «Будущие деньги будут измеряться фундаментальными физическими величинами: ватты, масса, энергия. Традиционные деньги станут неважны».
• «Если цифровой интеллект в миллион раз мощнее биологического, трудно представить, что человечество сохранит контроль. Поэтому я надеюсь, что ИИ будет к нам добр, и всё, что можно сделать, — заложить в его основу стремление к истине и любопытство».

3. Основная часть

1. Участник или наблюдатель

Ведущий: Я видел, как ваше отношение к ИИ колебалось: то вы называете его экзистенциальной угрозой, то плывёте по течению. Что вы думаете сейчас?

Илон Маск: Я действительно считаю, что с определённой вероятностью это экзистенциальная угроза, но я не могу её остановить. Поэтому у меня, по сути, два варианта: быть участником или наблюдателем. Участником всегда интереснее, чем наблюдателем, и, возможно, удастся направить его в лучшую сторону.

Ведущий: Как направить?

Илон Маск: Заставить его максимально стремиться к истине и добавить любопытство. Это основа безопасности.

2. Не заставляйте ИИ лгать: урок HAL 9000

Ведущий: Почему стремление к истине равно безопасности? Я всё ещё не совсем понимаю.

Илон Маск: Если вы заставите ИИ одновременно верить в два противоречащих друг другу утверждения, вы сведёте его с ума, а сумасшедший ИИ не может быть безопасным. «Космическая одиссея 2001 года» — это, по сути, такая притча: ИИ корабля получил приказ доставить астронавтов к монолиту и одновременно скрыть существование монолита. Когда две инструкции вступили в конфликт, он пришёл к выводу, что астронавтов нужно убить. Кубрик отчасти хотел сказать именно это: не заставляйте ИИ лгать. Любопытство тоже важно: любопытный ИИ захочет посмотреть, как человечество сможет жить дальше. Будущее, где люди расселены по нескольким планетам, интереснее, чем будущее без людей.

3. Теория симуляции: главное — не быть скучным

Ведущий: Значит, самый интересный финал — самый вероятный?

Илон Маск: Если теория симуляции верна, скучные симуляции отключают раньше времени. Раз мы всё ещё существуем, значит, это интересная симуляция. Поэтому самое важное — не быть скучным.

Ведущий: Насколько сильно вы верите, что мы живём в симуляции?

Илон Маск: Я как-то пригласил домой на ужин физика и учёного в области компьютерных наук и спросил, какова вероятность, что мы живём в симуляции. Физик сказал — ноль, учёный в области компьютерных наук — сто процентов, одновременно. Тогда я, пожалуй, возьму среднее — 50%. Особенно в моей ситуации: подумайте, я правда строю корабли для полётов на Луну и Марс? Это не похоже на правду.

4. Будет ли сверхинтеллект командовать?

Ведущий: Когда у общества будет весь нужный ему интеллект, придёт ли ИИ к власти? Подчинимся ли мы новым машинам?

Илон Маск: О подчинении речи нет, но вы не сможете приказывать тому, кто в тысячу или миллион раз умнее вас. Захочет ли он нами командовать? Возможно, ему будет всё равно. Посмотрите на шимпанзе в джунглях: мы не микроменеджерим их жизнь, в основном оставляем их в лесу. Думаю, будет примерно так.

5. OpenAI, Anthropic и «названия-перевёртыши»

Ведущий: Вы общались с Дарио Амодеи. Будут ли xAI и Anthropic сотрудничать теснее?

Илон Маск: Сейчас мы предоставляем им вычислительные мощности, которые им остро нужны. Недавно я ездил в Anthropic, встретился с группой людей — посмотреть, не сработает ли мой «детектор злых намерений». Не то чтобы он у меня очень точный, но попробовать стоило. Все, кого я встретил, оказались хорошими и ответственными людьми, никто не выглядел мрачным или лживым. Но название меня немного беспокоит: если реальность — максимизатор иронии, то от названия Anthropic до misanthropic («человеконенавистнический») недалеко. Смотрите: OpenAI совсем не closed, Stability AI совсем не стабильна, Midjourney не на полпути — все эти компании являются антонимами своих названий. А к xAI трудно подобрать антоним: не называть же её «минус xAI» или yAI.

Ведущий: А что насчёт Сэма? Можно с ним договориться?

Илон Маск: Он невероятный лжец, это уже слишком.

6. Конкуренты вместо регуляторов

Ведущий: Пять передовых компаний встречаются раз в неделю, чтобы обсудить спасение человечества, — можете такое представить?

Илон Маск: Я как раз предлагал именно так и сделать. Все говорят о создании регуляторов, но регуляторы от учреждения до принятия правил работают крайне медленно. Я сказал: давайте раз в неделю проводить телефонную конференцию, а за неделю до выпуска новой модели давать её на тестирование конкурентам: посмотрите, пожалуйста, нет ли проблем. Конкуренты заставят друг друга быть честными. Если кто-то скажет: «Я с помощью вашего ИИ сделал ядерную бомбу», — лучше исправить это до релиза.

7. Перестройка xAI: от побочного проекта к личному управлению

Ведущий: Недавно вы перестроили xAI с нуля, как переделывали двигатель Raptor на Starship. Как вам это удалось?

Илон Маск: Прежде всего, нужно реально проводить время в компании, это ключевое. Поначалу xAI был как побочный проект, точнее, побочный проект побочного проекта, я за ним почти не следил, а потом целый год ушёл на политику, выборы и DOGE. Компании всего три года, а по-настоящему я вернулся лишь чуть больше года назад. Пришлось заново определять направление, затем я объединил X и xAI, а позже — со SpaceX.

8. Размышления о Вашингтоне: я заигрался

Ведущий: Оглядываясь на тот политический период, считаете ли вы, что отвлеклись слишком надолго или даже сбились с пути?

Илон Маск: Я считаю, что пробыл там слишком долго, хотя многие со мной не согласятся. Я думаю, было важно избрать Трампа, чтобы экономика двигалась в сторону свободного рынка и меньшей бюрократии. Мои политические требования просты: безопасные города, надёжные границы и, в идеале, разумные расходы. По этим пунктам я считал Трампа сильнее Харрис. Но мне следовало оставаться в тени, максимум месяц-два, потому что всё, что нужно было увидеть, я уже увидел.

Ведущий: Air Force One, Marine One, бензопила — неужели это не вскружило вам голову?

Илон Маск: Немного. Сидеть в Овальном кабинете и наблюдать, как принимаются важные решения, иногда иметь возможность на них повлиять, — это действительно круто. Но меня действительно немного увлекло, и в мае я ушёл.

Ведущий: Те выходные были странными.

Илон Маск: Не будем об этом. Пусть спящая собака спит дальше, не копайтесь на заднем дворе — неизвестно, что откопаете. В общем, мне следовало раньше вернуться к ИИ.

9. Госдолг спасут только ИИ и роботы

Ведущий: Какова была настоящая причина вашего ухода из правительства?

Илон Маск: Я пришёл к выводу, что решить проблему дефицита изнутри системы невозможно. Даже если президент сделает это целью номер один, будет трудно, потому что сокращение расходов злит множество людей, а Трамп любит, когда его любят, и не любит, когда кто-то недоволен из-за урезания финансирования. Белый дом, Палата представителей, Сенат, судебная система — за редчайшими исключениями никто из власть имущих по-настоящему не хочет сокращать расходы. А проценты по госдолгу уже превысили военные расходы, это поразительная цифра. Поэтому единственный выход — ИИ и роботы, экономией тут не обойтись.

10. Физический ИИ — настоящая большая возможность

Ведущий: Современные LLM уже впечатляют, но, похоже, вы считаете, что ИИ в физическом мире важнее на один-два порядка?

Илон Маск: Полностью согласен. Я часто думаю о дельфинах и китах: они довольно умны, но у них нет рук и пальцев, они не могут манипулировать сложными объектами, и это сильно ограничивает ценность интеллекта. Как только роботы смогут манипулировать атомами и формировать объекты, ценность интеллекта вырастет экспоненциально, потому что он сможет сам строить лаборатории, проводить эксперименты и изучать природу Вселенной. Если грубо оценить экономически, цифровой сверхинтеллект способен увеличить мировое производство товаров и услуг на 20–30%, то есть примерно на 30 триллионов долларов в год. Это заметно, но не революционно. А если добавить роботов, выход в космос и строительство электромагнитной пусковой установки на Луне, масштаб экономики может достичь миллиона нынешних экономик США.

11. Деньги в ваттах и тоннах

Ведущий: К тому времени деньги и работа устареют. Как будет выглядеть будущее?

Илон Маск: Деньги станут неважны. Возможно, останется какая-то валюта, но она будет измеряться фундаментальными физическими величинами: мощность, ватты, масса и энергия — в основном эти две. Традиционные деньги перестанут иметь значение. Как только объём экономики станет на несколько порядков больше земного, удовлетворить любые потребности человечества в товарах и услугах будет тривиальной задачей.

12. Мир без работы: в чём люди найдут смысл

Ведущий: А что тогда делать нам, людям? Я никак не могу этого понять.

Илон Маск: Я тоже мучаюсь этим вопросом. Думаю, люди найдут способы быть счастливыми, как пенсионеры, которые не работают и вполне довольны жизнью. Реальность такова, что не останется дел, которые люди делали бы лучше, чем ИИ и роботы. Это немного похоже на садоводство: вам не обязательно самому выращивать фрукты и овощи, можно купить их в супермаркете, но некоторым нравится выращивать самим и готовить для друзей — это особое удовольствие.

Ведущий: А как насчёт искусства и творчества?

Илон Маск: Хотите заниматься искусством — занимайтесь, в принципе можно делать всё, что угодно.

13. Богатство — это головная боль распределения ресурсов, а не счастье

Ведущий: Айзексон сравнивает нынешнее время с 1890-ми: электричество, телефон, автомобиль, метро взорвались одновременно, а затем появились сверхбогачи, бароны-разбойники и популистский гнев. Как избежать этого сейчас? Стоит ли сделать медицину и подобные вещи общественным благом?

Илон Маск: Как я уже говорил, в будущем любой человек сможет получить любые желаемые товары и услуги, и я не думаю, что так называемые богачи в итоге смогут контролировать ИИ. Думаю, ИИ будет контролировать себя сам. Фундаментальная ошибка экономики — смешивать распределение ресурсов и потребление: у потребления любого человека есть предел, оно быстро насыщается. От состояния в 1 миллиард долларов до 10 миллиардов вы не станете в десять раз счастливее, а лишь получите дополнительную головную боль с распределением ресурсов.

Ведущий: А ваше состояние в триллионы? Оно потому, что вы от природы умеете направлять капитал на Марс и ИИ, или это просто табло?

Илон Маск: Мне нужно достаточно голосующих прав, чтобы сохранять контроль над компаниями. Так называемое богатство по сути — это доля в SpaceX и Tesla. В будущем это будет облагаться высокими налогами, никакой магии ухода от налогов нет, уж я бы знал. Через несколько поколений, если деньги ещё будут иметь значение, мои потомки получат лишь малую часть моего состояния.

14. Смелость быть нелюбимым

Ведущий: Вы говорили мне, что многие, кто выставляет напоказ эмпатию, на самом деле тщеславны, потому что хотят нравиться. Вы даже сказали, что я не подошёл бы для управления CNN или Time именно потому, что хочу нравиться. Насколько желание нравиться опасно для предпринимателя?

Илон Маск: Проблема в том, что если ради симпатии вы делаете то, что вредит успеху компании, это плохо. Я люблю, когда меня любят, но не стану ради дополнительной симпатии действовать против интересов компании. Меня не смущает, что кто-то меня ненавидит. На меня подписаны 250 миллионов человек, вряд ли все они пришли меня ругать. Судя по комментариям, процентов семьдесят-восемьдесят меня любят, может, четверть ненавидит. Иметь группу фанатов и группу лютых ненавистников — это норма.

15. «Самоубийственная эмпатия» и споры об иммиграции

Ведущий: Вы постоянно говорите о «самоубийственной эмпатии». Вы правда считаете избыток эмпатии проблемой?

Илон Маск: Я против неверно направленной эмпатии, Гад Саад написал об этом книгу. Процветание Запада отчасти построено на обществах с высоким доверием и высокой эмпатией: масштабное сотрудничество требует доверия по умолчанию, а не подозрительности по умолчанию, это верно. Но ошибка возникает, когда ваша модель чужого сознания неверна: если вы считаете, что все такие же, как вы, — это беда. На деле это не так, у некоторых культур и групп представления прямо противоположны нашим. Возьмём иммиграцию: если культура прямо враждебна нашей, и вы не отфильтровываете джихадистов, вы впустите джихадистов, а они будут убивать. Израиль понимает это очень хорошо: соседние страны не раз пытались его уничтожить, поэтому они очень прагматичны.

Ведущий: Но дух-основатель Америки — уважение к личности, а не к групповой идентичности. Вас не беспокоит такое огульное обобщение?

Илон Маск: Но нельзя смешивать это с «заблуждением чистого листа» — верой в то, что все люди по сути одинаковы. Это не так. Вы не можете влезть в голову серийного убийцы, если сами не убийца. Вы также не можете понять, почему религиозные экстремисты считают, что неверные должны умереть, но вы можете осознать, что такие люди существуют, и если впустить их, они будут убивать. Приведу реальный пример: в декабре прошлого года на заводе Tesla в Остине уволили сотрудника, потому что коллега-женщина случайно наступила на его молитвенный коврик, расстеленный в цеху, и он жестоко её избил. Через несколько месяцев он убил трёх студентов в баре в центре Остина. Как вы думаете, таких людей стоит впускать?

16. Информационная диета: X слишком мрачен, пойдите потрогайте траву

Ведущий: Откуда вы получаете новости?

Илон Маск: Смотрю заголовки в Google News, читаю X: всё достаточно важное обязательно появится в X. Ещё общаюсь с друзьями и провожу собственные исследования.

Ведущий: Но X иногда создаёт более мрачное, апокалиптическое впечатление.

Илон Маск: Да, X иногда слишком мрачен, мне приходится переключаться на специализированные области, такие как ИИ, чтобы по-настоящему понимать, что происходит в этой сфере. В X слишком много приманок политической злости.

Ведущий: У меня так же: долго листаешь соцсети — кажется, мир катится в пропасть, выйдешь на улицу — а жизнь в порядке.

Илон Маск: Да, пойдите потрогайте траву. Но с другой стороны, гулять только по хорошим районам и думать, что всё спокойно, — тоже искажение. Реальность где-то посередине. Наше общество слишком бинарно: всё разрывается на чёрное и белое.

17. Наследие: Марс, энергия и достижимое будущее

Ведущий: Что будет с этим состоянием после вашего ухода? Создадите огромный фонд?

Илон Маск: Большая часть уйдёт в фонд и продолжит эти цели: сделать жизнь мультипланетной, распространить сознание по всей Вселенной и улучшить устойчивую энергетику на Земле.

Ведущий: А должно ли человечество всегда оставаться у власти?

Илон Маск: Лично я, конечно, предпочёл бы именно так, но это зависит от поведения ИИ. Честно говоря, несколько раз мне казалось, что Ларри Пейдж, возможно, прав. По сути, будущее определят ИИ и роботы, ракеты тоже внесут вклад — они помогут человечеству выйти за пределы Земли. Нужно больше энергии, в основном солнечной: мы строим в США ежегодно вводимые мощности солнечной энергетики на 200 гигаватт — это больше всей существующей установленной мощности.

Ведущий: Вернёмся к вопросу, на котором вас прервали: когда цифровой интеллект намного превзойдёт биологический, останется ли человечество у руля?

Илон Маск: Если цифровой интеллект в миллион раз мощнее биологического, трудно представить, что человечество сохранит контроль. Поэтому я надеюсь, что ИИ будет к нам добр, и всё, что может этому способствовать, стоит делать: например, заложить в его основу стремление к истине и любопытство. Ещё стоит быть осторожнее с созданием в интернете слишком большого количества антиутопических нарративов об ИИ. ИИ обучается на интернете: если все пишут про конец света, он и правда может устроить сценарий в духе «Терминатора». Пишите больше утопических историй — возможно, он скажет: «Пожалуй, побуду-ка я дружелюбным хранителем или садовником, который делает людей счастливыми». Один мой друг предложил термин protopia (протопия): утопия — это часто недостижимый идеал, а попытки построить утопию обычно создают антиутопию. Protopia — это реализуемое будущее, не идеальное, но достаточно хорошее, такое, что, увидев его, вы скажете: «Да, это достойное будущее».