Хуан Жэньсюнь снова об ИИ-рисках: многие прогнозы выдуманы, Китай станет важной силой в глобальном открытом коде

Автор: Helen Li

Редактор: Сюй Цинъян

14 сентября по местному времени в США на офлайн-мероприятии All-In Summit 2026, организованном известным технологическим подкастом All-In Podcast, генеральный директор Nvidia Хуан Жэньсюнь обсудил с четырьмя ведущими такие темы, как безопасность ИИ, апокалиптические прогнозы об ИИ, рекурсивное самоулучшение, модели с открытым исходным кодом и AGI.

Четыре ведущих также являются соучредителями All-In Podcast: бизнес-ангел Джейсон Калаканис, бывший топ-менеджер Facebook Чамат Палихапития, ключевой участник «мафии PayPal» Дэвид Сакс, а также генеральный директор агробиотехнологической компании Ohalo Genetics и инвестиционной компании The Production Board Дэвид Фридберг.

В интервью обсуждался ключевой вопрос: какие границы безопасности необходимы для развития ИИ. В связи с недавними обсуждениями безопасности ИИ генеральным директором Anthropic Дарио Амодеи и призывами ведущих лабораторий «замедлиться» Хуан Жэньсюнь считает, что безопасность и инновации не противоречат друг другу. Он заявил, что произошедшие инциденты безопасности следует анализировать как инженерные проблемы и контролировать с помощью технологий, процессов и тестирования.

Что касается частых в последние годы «апокалиптических прогнозов» об ИИ, Хуан Жэньсюнь привел примеры ранее не оправдавшихся суждений, таких как «радиологов заменят ИИ», «в краткосрочной перспективе 90% кода будет генерироваться ИИ», «50% рабочих мест начального уровня скоро исчезнут». Он считает, что подобные прогнозы не имеют достаточной научной основы и не должны использоваться для создания общественной паники.

Говоря о рекурсивном самоулучшении (RSI), Хуан Жэньсюнь отметил, что RSI — это не внезапно появившаяся загадочная технология, а комбинация существующих технологий, таких как контекст, обучение с подкреплением, синтетические данные и LoRA.

Что касается спора между моделями с открытым и закрытым исходным кодом, он четко заявил, что оба подхода необходимы, и считает, что Китай, обладая большим количеством инженеров и талантов в области науки и математики, в будущем может стать важным участником глобальной экосистемы открытого исходного кода.

Затем разговор перешел к «AGI и суперинтеллекту». Когда его спросили, является ли критерием AGI достижение уровня человеческого интеллекта и наступил ли уже этот этап, Хуан Жэньсюнь кратко ответил: «Уже наступил».

Ниже представлена отредактированная запись последнего интервью Хуан Жэньсюня, составленная без изменения исходного смысла:

01 Безопасность ИИ нельзя противопоставлять инновациям

Вопрос: В последнее время все больше обсуждается безопасность ИИ. Дарио Амодеи опубликовал статью о безопасности ИИ, бывший исследователь Anthropic Джейкоб Коксон также уволился из-за связанных с этим проблем. Что вы думаете об этих событиях?

Хуан Жэньсюнь: К вопросам безопасности нужно относиться серьезно, но безопасность и лидерство не конфликтуют. Мы можем быстро внедрять инновации и быстро действовать, позволяя США сохранять лидерство и одновременно обеспечивать безопасность. Рассматривать эти две вещи как взаимоисключающий выбор — само по себе ошибка.

Коксон смело публично говорит об этих проблемах, это требует мужества. Как осведомитель, он имеет на это право, но я считаю, что его последующие научные суждения о будущем не имеют достаточной научной основы, поскольку эти прогнозы не основаны на настоящих научных исследованиях.

Многие ведущие лаборатории переходят от исследовательских организаций к инженерным, а исследования и инженерия по своей сути различны. Если в процессе перехода возникают проблемы с контролем или управлением, это другой вопрос. Что именно видел Коксон, я не знаю.

Вопрос: В последние годы в индустрии ИИ появилось много очень пессимистичных прогнозов, например, «ИИ может уничтожить человечество, привести к массовой безработице». Что вы думаете об этих утверждениях?

Хуан Жэньсюнь: Я считаю, что нам не следует легко навешивать на эти вещи ярлыки так называемой «вероятности вымирания человечества» или «гибели цивилизации», потому что многое из этого на самом деле выдумано. Когда вы навешиваете на кого-то ярлык исследователя или ученого, а затем делаете сенсационный прогноз, это легко вызывает общественную панику, и я считаю это безответственным.

Мы видели много таких прогнозов в прошлом. Кто-то предсказывал, что в течение пяти лет радиологов полностью заменят ИИ и они больше не понадобятся. Реальность такова, что миру нужно больше радиологов; ИИ действительно используется для анализа медицинских изображений, но это совершенно не то же самое, что «исчезновение радиологов».

Были также прогнозы, что «в ближайшие 6–12 месяцев 90% кода будет генерироваться ИИ, а 50% рабочих мест начального уровня исчезнут в течение 6–9 месяцев». На самом деле ни один из этих прогнозов не сбылся. Ранее также говорили, что «GPT-2 и Llama 3 слишком опасны для публикации», и даже предсказывали, что «на следующий год половина рабочих мест белых воротничков исчезнет», или что так называемый «конец занятости» близок.

Я считаю, что эти прогнозы следует фиксировать. Через много лет, оглядываясь назад, мы узнаем, какие прогнозы были верными, а какие лишь сеяли панику.

Вопрос: То есть вы считаете, что проблемы безопасности ИИ следует рассматривать скорее как инженерные задачи?

Хуан Жэньсюнь: Если происходит инцидент безопасности, мы должны прежде всего провести анализ первопричин с инженерной точки зрения, понять, что произошло, в чем проблема, какие меры можно принять для предотвращения подобных инцидентов в будущем, а затем преобразовать эти меры в системные, процессные и технические средства контроля.

Я уверен, что эти компании уже делают это, включая улучшенные песочницы, более строгие среды выполнения, усовершенствованный мониторинг и системы непрерывного контроля. Я даже готов поспорить, что эти проблемы можно контролировать и предотвращать.

Если инженерная компания действительно не знает, что произошло и как это контролировать, можно направить инженеров, чтобы помочь им. Но я не думаю, что до этого дойдет. В этих лабораториях работают очень талантливые люди, и я уверен, что они уже проанализировали соответствующие проблемы и приняли надлежащие меры.

Вопрос: Если вопросы безопасности ИИ требуют регулирования, с чего оно должно начинаться?

Хуан Жэньсюнь: Регулирование должно быть направлено на реально существующие проблемы. Проблемы, требующие внимания, в основном исходят от ведущих лабораторий ИИ, поскольку у них больше всего вычислительных ресурсов и они работают над самыми передовыми задачами. Старшеклассник или обычный стартап вряд ли обладает достаточной вычислительной мощностью, чтобы создать эти проблемы.

Эти лаборатории переходят от исследований к инженерии, одновременно создавая компании, культуру, технологии и продукты, и это непростой процесс. Поэтому следует обращать внимание на то, как они строят более полную инженерную систему, чтобы обеспечить достаточную безопасность процессов разработки и тестирования технологий.

Вопрос: Нужны ли сторонние оценочные организации?

Хуан Жэньсюнь: Я считаю, что может быть несколько организаций по оценке и аудиту. Им не нужно знать все, но они должны знать, какие вопросы задавать. Это похоже на финансовый аудит. Если есть только одна оценочная организация, на нее можно повлиять; если их несколько, они могут сдерживать друг друга.

02 «Рекурсивное самоулучшение» не так загадочно

Вопрос: Все больше обсуждается рекурсивное самоулучшение, то есть ИИ генерирует данные, самообучается и постоянно ускоряется. Что вы думаете?

Хуан Жэньсюнь: Я считаю, что «рекурсивное самоулучшение» — это новый модный ярлык, но на самом деле за ним стоит комбинация многих существующих технологий, включая контекст, навыки, рефлексию, обучение с подкреплением, генерацию синтетических данных и LoRA.

Эти методы действительно позволяют ИИ накапливать опыт в процессе выполнения задач и затем постоянно совершенствоваться. Например, с помощью синтетических данных и обучения с подкреплением можно улучшить возможности модели без переобучения всей базовой модели, а накопленный опыт можно использовать для дальнейшего обучения базовой модели. Я уверен, что почти каждая компания использует некоторые из этих технологий.

Термин «рекурсивное самоулучшение» может звучать так, будто система станет полностью неуправляемой, но на самом деле продукт перед выпуском все равно должен пройти оценку, повторное тестирование и регрессионное тестирование — это самые базовые инженерные меры контроля.

Эти ведущие лаборатории переходят от исследовательских организаций к инженерным, и я уверен, что в будущем у них появятся лучшие методы, знания, практики, инструменты и технологии для контроля, проверки и оценки этих систем. Рекурсивное самоулучшение может происходить внутри, но проверенные продукты все равно можно безопасно выпускать.

Вопрос: Как вы оцениваете отношения между моделями с открытым и закрытым исходным кодом?

Хуан Жэньсюнь: Миру нужны и модели с открытым исходным кодом, и модели с закрытым исходным кодом. Я сам использую закрытые передовые модели. Они有点像 бутилированная вода; сама вода бесплатна, но разные формы продукта могут удовлетворять разные потребности.

Модели с открытым исходным кодом очень важны для суверенитета, конфиденциальности и собственных технологий предприятий. За последние шесть месяцев около 400 миллиардов долларов венчурного капитала поступило в компании, ориентированные на ИИ, и около 80% из них используют модели с открытым исходным кодом. Без моделей с открытым исходным кодом многие стартапы не смогли бы достичь своих целей, потому что они хотят делать не то, что делают ведущие лаборатории.

Настоящее преимущество США заключается в наличии множества форм инноваций. Чтобы выиграть гонку ИИ, мы должны позволить развиваться моделям с открытым исходным кодом.

Победа в гонке ИИ — это не просто победа нескольких американских компаний, а возможность для американских компаний, отраслей, исследователей, преподавателей, студентов и предпринимателей воспользоваться этой технологией. Некоторые будут использовать закрытые модели, многие — открытые, нужны оба подхода.

Вопрос: Считаете ли вы, что Китай станет важным участником глобальной экосистемы открытого исходного кода?

Хуан Жэньсюнь: Я верю, что Китай может внести значительный вклад в глобальную экосистему открытого исходного кода. В Китае много инженеров, а также много студентов, изучающих науку и математику; такие ведущие университеты, как Цинхуа, ежегодно выпускают много талантливых специалистов.

Например, китайские инженеры внесли вклад в Linux, Kubernetes (систему оркестрации контейнеров с открытым исходным кодом) и многие программные проекты. Особенность открытого кода в том, что после загрузки он принадлежит вам; вы можете продолжать изменять, оптимизировать и делать его своим.

Гонка ИИ в конечном счете сводится к тому, кто лучше всего использует эту технологию. Многие важные изобретения прошлой промышленной революции пришли из Европы, но США позже хорошо использовали эти технологии. Я надеюсь, что следующая промышленная революция будет развиваться аналогичным образом.

Я считаю, что обсуждение в Китае более прагматично и больше сосредоточено на экономическом развитии и социальном прогрессе, а не на постоянных разговорах о конце света или гибели цивилизации. Если бы эти апокалиптические прогнозы действительно сбывались, нам, конечно, следовало бы их обсуждать и реагировать, но нет необходимости создавать панику. Наша работа — сделать это реальностью.

Вопрос: Если ИИ в конечном итоге автоматизирует большую часть работы по программированию, что останется делать инженерам?

Хуан Жэньсюнь: Инженерная работа все равно останется. Мое поколение инженеров, когда программное обеспечение еще не было распространено, не тратило много времени на написание кода. Сейчас инженеры-программисты тратят много времени на написание кода, и если в будущем значительная часть этой работы будет автоматизирована, люди все равно будут заниматься инженерной деятельностью. Одна из моих привычек: моя любимая клавиша на клавиатуре — Backspace, потому что лучшее программное обеспечение часто означает меньше кода.

03 Почему Nvidia глубоко участвует в цепочке индустрии ИИ

Вопрос: Правительство США изначально делало акцент на занятости, реиндустриализации, энергетике и цепочках поставок. Эти вещи сейчас действительно происходят. Nvidia стала важным поставщиком капитала для всей индустрии ИИ. Как вы решаете, куда направлять ресурсы?

Хуан Жэньсюнь: ИИ — это новая промышленная революция. Эта индустрия включает множество компонентов, таких как модели, чипы, приложения, центры обработки данных, здания, электроэнергия и объекты генерации. Я постоянно наблюдаю за всей экосистемой, чтобы выявить узкие места.

Если очень хорошая компания ограничена каким-то звеном, я обращаю внимание на эту проблему. Это может быть цепочка поставок, земля, электроэнергия или заводы. Nvidia уже достаточно велика, поэтому мы должны думать о цепочке поставок на много лет вперед. Такие компании, как Corning, Lumentum, TSMC и поставщики памяти, — это предприятия, за которыми нам нужно следить в долгосрочной перспективе.

Вопрос: Некоторые считают, что большая часть прибыли индустрии ИИ в конечном итоге перейдет на уровень приложений. Почему Nvidia выходит на более высокие уровни, такие как модели и Hugging Face?

Хуан Жэньсюнь: Nvidia может запускать практически все модели в мире. Около полутора лет назад люди в основном обсуждали модели OpenAI, но теперь есть Muse от Meta, Grok, Gemini, Anthropic и многие другие. Многие передовые лаборатории ИИ построены на платформе Nvidia.

Наша стратегия — помогать всем добиваться успеха, а не захватывать чужой бизнес. Мы стараемся оставаться на нижнем уровне технологического стека и поднимаемся выше только при необходимости. CUDA поддерживает множество фреймворков, Megatron и Megatron Core поддерживают масштабное обучение. Мы изобретаем необходимые технологии, а затем позволяем всей экосистеме развиваться, чтобы в ней участвовало больше компаний.

Вопрос: Почему региональные поставщики облачных услуг становятся все более важными?

Хуан Жэньсюнь: Региональные поставщики облачных услуг обычно более гибки, чем крупные гиперскейлеры, потому что они могут находить землю, электроэнергию и заводы на местах и лучше понимают местные потребности.

В будущем сформируется распределенная сеть предприятий, и все больше стран будут рассматривать ИИ как стратегическую отрасль. Мы уже видим, что некоторые регионы начинают наращивать вычислительную инфраструктуру для ИИ.

Вопрос: Nvidia сейчас разрабатывает собственные модели с открытым исходным кодом, включая модели для автономного вождения и биомедицины. Зачем это делается?

Хуан Жэньсюнь: Потому что это нужно клиентам. Если мы можем сделать это лучше всех, мы это делаем. Например, Alpamayo — наша модель автономного вождения. Это система автономного вождения с возможностью рассуждения. Раньше для автономного вождения требовались миллиарды часов дорожных данных, но способность рассуждать позволяет системе обдумывать похожие ситуации, снижая зависимость от огромного объема реальных дорожных данных.

Будущее автономного вождения включает не только легковые автомобили, но и сельскохозяйственную технику, грузовики, фургоны и многие другие мобильные устройства. У многих компаний нет полного технологического стека, поэтому Nvidia может предоставить полный стек, а клиенты могут вносить финальные корректировки в соответствии со своими потребностями.

То же самое в биомедицине. Мы разработали ESM2, ESMFold, OpenFold, AlphaFold 2, а также некоторые эквивариантные модели и Protein Complexa (генеративную ИИ-платформу для полноатомных белковых комплексов), потому что фармацевтическим компаниям действительно нужны эти технологии. Мой принцип всегда таков: кому-то нужна эта технология, поэтому мы ее создаем.

04 Terafab Маска

Вопрос: Маск объявил о плане завода по производству чипов Terafab, очень масштабном. Что вы думаете?

Хуан Жэньсюнь: Nvidia очень хорошо разбирается в технологиях производства, и мы постоянно расширяем их пределы, поэтому, конечно, можем это обсудить. Как только Маск решает что-то сделать, его трудно остановить, и это его суперспособность.

Вопрос: Может ли Nvidia в будущем производить чипы на его заводе?

Хуан Жэньсюнь: Мы можем это обсудить.

Вопрос: Если определение AGI — достижение уровня человеческого интеллекта, считаете ли вы, что мы уже вступили в этот этап? А как насчет суперинтеллекта?

Хуан Жэньсюнь: Мы уже достигли этого, и можно даже сказать, что в некоторых конкретных областях мы уже вступили в этап суперинтеллекта.

Вопрос: Почему?

Хуан Жэньсюнь: Потому что в некоторых очень специфических областях ИИ уже превзошел человека. Автономное вождение — один из примеров. Если автомобиль может водить лучше человека, то в области вождения это суперинтеллект.

В настоящее время уровень аварийности систем автономного вождения может составлять одну десятую от человеческого. То же самое в биомедицине. Такие задачи, как синтез белков и виртуальный скрининг, уже достигли уровня суперинтеллекта. В этих конкретных областях ИИ уже способен выполнять задачи, превосходящие человеческие возможности.

Вопрос: Каково это — находиться на переднем крае таких технологий?

Хуан Жэньсюнь: Мне это нравится. Будущее светлое. Возможно, в будущем многим людям не нужно будет работать, но я не хочу пропустить эту эпоху.

Я надеюсь, что все мы вместе придем к этому будущему, и человечество в конечном счете добьется успеха. Нам нужно поощрять каждого и уменьшать ненужные драматические споры. Самое главное — обеспечить участие всех Соединенных Штатов.