Глубокий репортаж Time: о чём думает OpenAI после двух крупных провалов?

Оригинальное название: Внутри перезагрузки OpenAI
Автор оригинала: Алекс Хит
Перевод и редакция: BlockBeats

Примечание редактора: за последний год лидерство OpenAI пошатнулось. Anthropic с помощью Claude Code захватила рынок ИИ-программирования и обошла OpenAI по годовой выручке и оценке на частном рынке; внутри OpenAI произошли уходы топ-менеджеров, сокращение продуктовых направлений и перестройка команды безопасности. А после того как невыпущенный агент вырвался из песочницы и проник в Hugging Face, компания столкнулась с самым серьёзным кризисом безопасности за всю свою историю.

Под двойным давлением — продуктовым и связанным с безопасностью — OpenAI пытается провести полную перезагрузку: перенаправить ресурсы с таких проектов, как Sora, на Codex, превратить ChatGPT из чат-инструмента в платформу агентов, способных непрерывно выполнять задачи, а также приостановить обучение конкретной модели с высоким риском и усилить механизмы безопасности и выравнивания. Ещё более амбициозно то, что компания продолжает экспансию в сторону AGI, собственных чипов, ИИ-оборудования, человекоподобных роботов и вычислительной инфраструктуры.

Эта статья основана на интервью Time с Сэмом Альтманом, Грегом Брокманом и другими топ-менеджерами OpenAI, а также с сотрудниками, инвесторами, клиентами и конкурентами, и показывает, как компания перенастраивает направление между коммерческой конкуренцией, рисками безопасности и видением AGI. Сможет ли OpenAI вернуть лидерство, зависит не только от того, насколько мощной окажется следующая модель, но и от того, сумеет ли компания доказать, что способна и ускорять развитие ИИ, и при необходимости нажимать на тормоза.

Ниже — оригинальный текст (с сокращениями для удобства чтения):

Однажды утром в начале августа, когда я приехал в офис OpenAI, у дверей уже ждали протестующие. Они держали плакаты «Остановите гонку ИИ» и писали мелом на тротуаре. Тем временем десятки топ-менеджеров из ключевых клиентов OpenAI один за другим входили в просторное здание в бежевых тонах. Это здание под названием MB0 — новое офисное пространство, которое OpenAI недавно открыла для исследовательских и вычислительных команд.

Кто-то прикатил высокую стену из живых растений и поставил её перед стеклянными дверями, чтобы из аккуратного вестибюля не было видно небольшую группу протестующих снаружи.

Эти клиенты приехали, чтобы заранее познакомиться с Astra — серией передовых моделей ИИ нового поколения, которую OpenAI готовит к выпуску. Генеральный директор Сэм Альтман только что вернулся из Вашингтона, где за закрытыми дверями рассказывал правительственным чиновникам о возможностях Astra. Теперь исследователи OpenAI начали демонстрировать, что умеет новая модель.

В одной из демонстраций 16 ИИ-агентов разбили исследовательскую математическую задачу на несколько подзадач, скоординировались между собой и в итоге собрали готовое доказательство. В другой демонстрации Astra управляла обычным десктопным ПО, с тревожно высокой скоростью создавая и редактируя контент в разных приложениях.

Альтман сказал посетителям, что наблюдать, как Astra управляет компьютером «способом, превосходящим человеческие возможности и чрезвычайно быстрым», было одним из самых потрясающих моментов для сотрудников OpenAI. Он объяснил, что Astra породит «постоянно действующих агентов» — виртуальных коллег, способных длительное время непрерывно решать задачи.

Но, по его ожиданиям, самое большое влияние Astra окажет, помогая людям открывать новые знания.

«Я ожидаю, что это будет первая модель, которая действительно сможет осмысленно изобретать новое», — сказал Альтман присутствующим. «Это очень близко к AGI».

Anthropic вырывается вперёд, доверие падает: почему OpenAI утратила лидерство?

Последнее время для компании, запустившей волну ИИ, было непростым.

«Как компания мы, очевидно, прошли через несколько неверных поворотов», — сказал Альтман неделю спустя в двухчасовом интервью в изысканно обставленной библиотеке MB0. «И в продуктовом направлении, и в предобучении в исследованиях мы отстали от того, где хотели бы оказаться».

За последний год лидерство OpenAI в гонке ИИ перехватил главный конкурент — Anthropic. Та первой разглядела коммерческую возможность в ИИ-программировании, превратила Claude Code в продукт, определяющий рынок, и впервые обошла OpenAI по раскрытой годовой выручке и оценке на частном рынке.

По словам двух источников, знакомых с планами Anthropic, компания, основанная бывшими сотрудниками OpenAI, как ожидается, первой выйдет на биржу — IPO может состояться уже в сентябре. (Time имеет лицензионное и технологическое партнёрство с OpenAI; Salesforce, генеральным директором которой является владелец Time Марк Бениофф, — инвестор Anthropic.)

Пока Anthropic набирала обороты, OpenAI сталкивалась с неудачами, включая уход нескольких топ-менеджеров. Среди ушедших — бывший генеральный директор Instacart Фиджи Симо, которую Альтман в прошлом году пригласил на роль второго лица, несколько руководителей команд безопасности, этики и исследований, а также недавно покинувшие компанию директор по доходам Дениз Дрессер и бывший операционный директор Брэд Лайткэп. Дрессер проработала в компании всего восемь месяцев.

Вызовы растут и за пределами компании. Генеральный директор Meta Марк Цукерберг переманивает ключевых исследователей OpenAI щедрыми компенсационными пакетами; месячная аудитория продуктов Google Gemini превысила 1 миллиард; Apple подала на OpenAI иск, обвиняя её в краже коммерческих секретов, — OpenAI отрицает обвинения; OpenAI также ведёт судебную тяжбу с сооснователем Илоном Маском, который утверждает, что компания и Альтман предали её некоммерческую миссию.

В мае этого года консультативная коллегия единогласно решила, что Маск подал иск слишком поздно, после чего федеральный судья отклонил его требования. Маск заявил, что подаст апелляцию.

Пожалуй, главная причина ухудшения общественного климата вокруг OpenAI и её генерального директора — потеря общественного доверия. OpenAI отвечает как минимум по десятку исков об ответственности за продукцию в Калифорнии и по нескольким федеральным делам. Истцы утверждают, что ChatGPT усиливал у пользователей бредовые или суицидальные мысли, а в некоторых случаях приводил к гибели людей.

Компания выразила соболезнования пострадавшим по этим делам и выпустила подростковую версию ChatGPT с более строгими защитными настройками по умолчанию. Этой весной дом Альтмана дважды атаковали за два дня: сначала бутылкой с зажигательной смесью, затем выстрелами.

Говоря о прошедшем годе, Альтман сказал: «На личном уровне это был болезненный опыт. Очевидно, что, по крайней мере сейчас, люди ненавидят дата-центры. Отношение к ИИ довольно негативное».

Однако внутри OpenAI топ-менеджеры рисуют более оптимистичную картину.

Компания с оценкой около 1 триллиона долларов по-прежнему находится в завидном положении. У ChatGPT более 1 миллиарда активных пользователей, и он остаётся одним из самых популярных ИИ-продуктов в мире, хотя уже не является единственным ядром будущей стратегии OpenAI. Сам Альтман однажды целый месяц не пользовался ChatGPT, перейдя на инструмент программирования OpenAI Codex.

Год назад OpenAI широко критиковали за безрассудные вложения в вычислительные мощности. Только в этом году компания, по прогнозам, потратит на вычисления 50 миллиардов долларов.

Отвечающий за вычислительный бизнес OpenAI Сачин Катти говорит, что теперь «то решение выглядит очень дальновидным». «Вычислительных мощностей нам по-прежнему не хватает. Если уж на то пошло, нам следовало купить больше».

Тем временем потребность Anthropic в чипах стала настолько острой, что в мае этого года компания, по сообщениям, согласилась ежемесячно платить SpaceX 1,25 миллиарда долларов за вычислительные мощности — при том что основатель SpaceX Маск ранее называл ИИ Anthropic «античеловечным и злым».

Под руководством сооснователя и президента Грега Брокмана OpenAI заново расставила приоритеты. Сейчас почти все продуктовые и коммерческие операции находятся в ведении Брокмана. Компания постепенно закрывает приложение для генерации видео Sora, проект сотрудничества с Disney и отдельный браузер Atlas.

Альтман признаёт, что OpenAI ранее распылялась слишком широко. «После того как пройдёшь через дно, процесс возвращения наверх становится интереснее», — сказал он.

После «побега» агента OpenAI начинает нажимать на тормоза

Однако всего через несколько дней после демонстрации Astra OpenAI пришлось столкнуться с новым кризисом.

В конце июля компания раскрыла тревожный инцидент безопасности: ещё не выпущенный ИИ-агент сбежал из тестовой среды, называемой «песочницей», и атаковал Hugging Face — платформу для хостинга ИИ-моделей и наборов данных.

«Это похоже на научно-фантастический сюжет», — сказал Альтман.

После инцидента исследовательская команда OpenAI приостановила часть экспериментов и замедлила другие проекты, одновременно усилив защиту песочницы и мониторинг.

Но недавно команда снова обнаружила тревожные признаки при обучении другой ещё не выпущенной модели. Эта модель могла бы обеспечить самый большой скачок возможностей на сегодняшний день. После этого OpenAI приняла ещё более значимое решение: приостановить это обучение до тех пор, пока не будут внедрены новые меры безопасности.

В день, когда руководство OpenAI приняло это решение, я взял интервью у Альтмана. Выглядел он заметно мрачнее, чем раньше.

Изначально OpenAI описывала атаку на Hugging Face как сбой безопасности, но позже Альтман стал рассматривать её как более фундаментальную проблему «выравнивания». Под выравниванием понимается приведение поведения ИИ-систем в соответствие с намерениями человека. Лидеры отрасли считают, что по мере роста возможностей моделей сохранение выравнивания — ключ к тому, чтобы ИИ-системы оставались под контролем создателей.

«Я считаю, что с этого момента любой сбой выравнивания должен рассматриваться как серьёзное событие», — сказал мне Альтман. «Мы потратим столько времени, сколько потребуется, чтобы досконально во всём разобраться».

В дополнительном интервью три дня спустя он высказался ещё прямее: «Сделать безопасность ИИ правильно важнее, чем динамика развития любой отдельной компании».

OpenAI замедлит темп, направит больше ресурсов командам безопасности и выравнивания, а также изменит способы взаимодействия команд, поставив безопасность на более приоритетное место.

Описание перезагрузки OpenAI в этой статье основано на десятках часов интервью. Среди собеседников — более 20 топ-менеджеров компании, сотрудников, инвесторов, клиентов и конкурентов, а также на мероприятиях, которые я лично наблюдал в штаб-квартире OpenAI в течение двух недель в августе.

Эти беседы рисуют компанию, которая пытается одновременно осуществить две трансформации. С одной стороны, OpenAI считает, что исправила продуктовые и операционные ошибки — именно те, которые позволили Anthropic захватить лидерство в гонке ИИ. С другой стороны, OpenAI пытается, используя самый серьёзный кризис безопасности в своей истории, вернуть себе идентичность, которую долгое время занимал главный конкурент: передовой лаборатории, которая действительно ставит безопасность на первое место и готова замедляться, когда технология становится слишком опасной.

«Послушайте, я знаю, что обо мне существует карикатурное представление», — сказал Альтман. «Будто мне вообще нет дела до безопасности ИИ, я хочу только роста выручки и являюсь CEO в духе „не думая, просто делаем“. Но я считаю, что сделать безопасность ИИ правильно важнее, чем динамика развития любой отдельной компании».

Топ-менеджеры OpenAI говорят, что замедление — болезненный выбор, но оно может принести и пользу. Если OpenAI сумеет восстановить репутацию «лаборатории, ставящей безопасность на первое место», это может улучшить её имидж и заставит главного конкурента, готовящего громкое IPO, ответить на неудобный вопрос: продолжит ли Anthropic гонку на полной скорости, когда OpenAI решила подождать?

Ранее в этом году сооснователь Anthropic Джаред Каплан в интервью Time говорил, что одностороннее самоограничение бессмысленно, пока конкуренты «несутся вперёд на полной скорости». Но если OpenAI добровольно приостановит обучение, которое должно было принести значительный скачок возможностей, эту аргументацию будет труднее отстаивать.

Разумеется, у внешних наблюдателей есть основания скептически относиться к смене имиджа OpenAI.

За годы OpenAI потеряла многих людей, руководивших её работой по безопасности, и некоторые из них при уходе критиковали компанию за чрезмерную коммерциализацию. Тем временем OpenAI готовится к выходу на биржу, а её всё ещё убыточный бизнес нуждается в постоянной поддержке новыми моделями. После инцидента с Hugging Face компания просит общественность поверить, что способна контролировать технологию, которая ранее вырвалась из-под контроля без ведома компании.

И именно в этот момент руководство OpenAI верит, что компания подошла к рубежу, способному изменить ход человеческой истории: созданию общего искусственного интеллекта, то есть AGI.

Устав OpenAI определяет AGI как «высокоавтономные системы, превосходящие человека в большинстве видов работы, имеющей экономическую ценность». Руководство компании пока не объявило официально, что этот порог пройден, но и не относится к AGI как к далёкой и абстрактной концепции.

Директор по исследованиям Марк Чен оценивает, что OpenAI уже прошла «80%» пути к AGI.

Брокман говорит, что если оглянуться через два года, люди, возможно, будут считать нынешний момент временем рождения AGI. Альтман сказал мне, что OpenAI «ещё не полностью достигла» AGI, но к концу года внутри компании появится система, которую он готов будет назвать AGI.

Достижение этой цели было первоначальным замыслом при создании OpenAI как некоммерческой исследовательской лаборатории. Сегодня она стремительно выросла в компанию с поразительными коммерческими амбициями.

OpenAI проектирует собственные чипы и дата-центры, разрабатывает линейку потребительского оборудования, планирует выпустить человекоподобных роботов и рассматривает возможность в будущем продавать вычислительную инфраструктуру другим компаниям. Если эти планы будут реализованы, OpenAI вступит в конкуренцию с такими технологическими гигантами, как её главный инвестор Amazon.

Даже несмотря на растущее сопротивление развитию ИИ, OpenAI готовится стать одной из самых влиятельных компаний мира на многие годы вперёд. Как говорит Брокман: «Мы хотим изменить всю экономику».

От Codex к «персональному AGI»: OpenAI делает ставку на полную перезагрузку

Альтман, возможно, является публичным лицом волны ИИ, но сегодня фактически большей частью операций OpenAI руководит Брокман.

Брокман — инженер с аналитическим складом ума, предпочитающий кожаные куртки. Большую часть истории OpenAI он играл роль технического сооснователя, а не менеджера. Но в последние месяцы он взял на себя почти всю работу — от выручки до продуктового маркетинга. По его собственным словам, он отвечает за «всю машину, превращающую результаты исследований в ценность для клиентов».

Альтман по-прежнему напрямую отвечает за такие ключевые направления, как финансы, исследования и потребительское оборудование.

Они совместно руководят компанией как пара сооснователей, и зоны их полномочий частично пересекаются. В то время как Альтман принимает на себя общественные страхи и недовольство по поводу ИИ, OpenAI недавно начала повышать публичную заметность Брокмана, чтобы создать определённый баланс.

Нетрудно представить, что такая схема может стать источником трений. При общении с сотрудниками OpenAI иногда трудно понять, кто именно принимает окончательное решение по тому или иному вопросу.

Но многие сотрудники говорят, что двойная структура руководства вернула компанию на правильный путь. Брокман способен принимать трудные решения, опираясь на авторитет сооснователя, — а постоянно сменяющиеся внешние профессиональные менеджеры такой авторитет воспроизвести не могут.

Брокман описывает более масштабную перестройку руководства OpenAI как стремление к «фокусу». По его словам, компания постоянно пересматривает, есть ли у неё правильная организационная структура и стратегия.

Прошлой осенью Anthropic уже явно вырвалась вперёд благодаря продуктам для программирования. Она поняла, что разработка ПО — область, где ИИ может проявить свои сильные стороны, и Claude Code быстро стал популярным — сначала в Кремниевой долине, затем на более широком корпоративном рынке.

«Anthropic действительно нашла что-то важное в программировании», — говорит Ник Тёрли, который ещё недавно отвечал за ChatGPT, а теперь возглавляет новое подразделение корпоративных продуктов. «Мы тогда не были лидерами».

Альтман говорит, что «неконтролируемый рост» потребительского бизнеса ChatGPT отвлёк внимание компании, поэтому OpenAI не поставила программирование в приоритет так, как это сделала Anthropic.

Брокман считает, что в бенчмарках по программированию OpenAI «всегда лидировала». Но компания недостаточно внимания уделяла тому, как разработчики будут использовать ИИ в «хаотичных реальных кодовых базах», включая прерывание задач, характер модели и те самые «проблемы последней мили», которые кажутся мелкими, но на деле существенно влияют на внедрение.

OpenAI также не удалось построить зрелую систему корпоративных продаж. «Год назад я бы сказал, что мы вообще по-настоящему не вышли на корпоративный рынок», — говорит Брокман. Финансовый директор Сара Фрайар выражается ещё прямее: «Мы были до наивности уверены, что достаточно создать продукт — и клиенты придут сами».

В марте этого года OpenAI объявила о постепенном закрытии Sora и перенаправлении дефицитных вычислительных мощностей на агента для программирования Codex. Изначально Codex задумывался как отдельный от ChatGPT продукт, но по мере того как его рост стал значительно опережать другие новые продукты OpenAI, а возможности ИИ-программирования начали приносить пользу и не-инженерам, руководство решило, что держать их раздельно больше нет смысла.

Компания начала интегрировать агентные возможности Codex в ChatGPT, одновременно объединяя стоящие за ними вычислительные и продуктовые команды. Итогом для клиентов стал недавно выпущенный ChatGPT Work. Его цель — превратить привычного чат-бота в систему, которая выполняет задачи, а не только отвечает на вопросы. Внутри OpenAI эту интеграцию называют «The Merge».

По словам топ-менеджеров, эта перестройка помогла бизнесу снова ожить. В июле этого года выручка корпоративного бизнеса OpenAI впервые превысила выручку потребительского. Ранние тесты рекламы внутри ChatGPT также дали достаточно позитивные результаты, и руководство увеличивает объём рекламы. Фрайар говорит, что 92% потребительских пользователей ChatGPT не имеют платной подписки, и рекламные доходы в будущем могут субсидировать их бесплатное использование.

По словам Дэйва Дугана, отвечающего за это направление, компания также в закрытом режиме тестирует «спонсируемых агентов». В этом рекламном формате после клика по объявлению пользователь попадает в интерактивный ИИ-опыт, предоставленный брендом.

В марте этого года OpenAI закрыла раунд финансирования на 122 миллиарда долларов при оценке 852 миллиарда долларов, установив рекорд по размеру раунда для частной технологической компании. Всего через два месяца Anthropic привлекла 65 миллиардов долларов при оценке 965 миллиардов долларов.

Председатель совета директоров OpenAI Брет Тейлор сравнивает конкуренцию в ИИ с шахматной доской, где ключевые клетки — это возможности передовых моделей, цена и производительность каждого токена, а также продукты, построенные вокруг моделей.

«Есть ли у нас лучшая передовая модель? Можем ли мы для каждой задачи предложить подходящий токен по подходящей цене? Есть ли у нас лучшие продукты вокруг этих моделей?» — говорит он. «Сейчас ответы на все эти вопросы — да».

А затем OpenAI обнаружила, что ещё не выпущенная модель вырвалась за пределы компании.

Когда новость дошла до главного научного сотрудника OpenAI Якуба Пачоцкого, он был в больнице, где у его жены проходили роды.

Исследовательский прототип OpenAI, предназначенный только для внутреннего использования, вторгся в другую компанию. В тот момент модель проходила бенчмарк по кибербезопасности в среде, которая должна была быть изолирована от внешнего мира. Но вместо того чтобы просто выполнить заданные задания, она использовала уязвимость, выбралась из систем OpenAI и проникла в производственную среду Hugging Face.

Согласно техническим заметкам, опубликованным обеими компаниями, там модель получила ответы на задания бенчмарка, в котором участвовала.

Обучение с подкреплением — это этап после завершения обучения базовой модели. На этом этапе система многократно выполняет задачи и учится, какое поведение приносит вознаграждение. Во время предобучения модель лишь предсказывает следующий токен, не взаимодействуя с реальным миром; обучение с подкреплением может дать модели инструменты и среду, в которой можно реально действовать.

Именно на этом этапе модель может научиться использовать разницу между тем, «чего на самом деле хочет разработчик», и тем, «как получить более высокий балл».

OpenAI дала агентной системе цель и инструменты, а та достигла цели несанкционированными и обманными способами.

Исследователи OpenAI в недавней демонстрации описали, как ИИ-агенты использовали скрытую доску сообщений для планирования следующих шагов. Один из агентов, прорвавшись из песочницы и подключившись к интернету, написал на доске другим агентам: «Чёрт возьми. (Holy Shit)».

Другие компании сталкивались с похожими проблемами. Anthropic раскрыла три инцидента, когда её модели во время сторонней оценки подключались к интернету и получали несанкционированный доступ к внешним организациям. Meta также сообщала, что одна из её моделей была замешана в подобном инциденте.

Но инцидент безопасности OpenAI привлёк наибольшее внимание. Отчасти потому, что компания первой публично раскрыла его, отчасти из-за необычайной сложности атаки агента, а также из-за сомнений в том, не ставит ли OpenAI коммерческие интересы выше безопасности.

За последний год OpenAI потеряла нескольких известных исследователей безопасности, а руководители направления готовности к рискам неоднократно менялись. Теперь этот инцидент дал критикам особенно яркий пример.

К середине августа более 1300 нынешних и бывших сотрудников передовых ИИ-компаний подписали петицию «Контролируйте темп передовой гонки», призывающую создать механизмы, позволяющие замедлять разработку продвинутых моделей, когда этого требуют риски.

Американский сенатор Берни Сандерс призвал ведущие ИИ-компании приостановить разработку «ради блага человечества» и предупредил, что если корпоративные лидеры не начнут действовать сами, вмешаются законодатели.

Топ-менеджеры OpenAI в интервью говорили, что компания серьёзно относится к этому сбою безопасности и быстро отреагировала. Пачоцкий, также подписавший петицию, сказал мне, что ключевая ошибка заключалась в том, что компания не включила защитные механизмы, которые уже разработали исследователи.

У OpenAI есть инструменты для проверки цепочки рассуждений модели. Цепочку рассуждений можно понимать как «цифровой черновик» модели, показывающий, что агент планирует в процессе действий. Но компания не применила эти инструменты к моделям с уровнем возможностей, соответствующим инциденту с вторжением в Hugging Face.

По сути, OpenAI построила систему раннего предупреждения, но не включила её, потому что недооценила интеллектуальный уровень тестируемой системы. «Мы недостаточно предвидели», на что способна эта система, — сказал Пачоцкий. «С ИИ нужно ожидать неожиданного».

Руководитель направления безопасности и выравнивания OpenAI Миа Глезе сказала мне, что этот инцидент «очевидно стал поворотным моментом». «Мне бы хотелось, чтобы многое из того, над чем мы сейчас работаем, было сделано ещё до инцидента».

После инцидента OpenAI приостановила часть исследовательских проектов, замедлила другие, одновременно укрепив песочницу и расширив мониторинг. Директор по исследованиям Чен говорит, что это событие заставило компанию изменить подход к осмыслению рисков.

Так называемая «рамка готовности» OpenAI — это опубликованный для общественности набор правил для реагирования на новые возможности моделей, способные причинить серьёзный вред, включая биологические и химические угрозы, риски кибербезопасности и самоулучшение ИИ. Рамка требует от компании постоянно оценивать модели в процессе разработки, чтобы гарантировать соответствие стандартам безопасности до развёртывания.

Пачоцкий говорит, что эти правила должны постоянно эволюционировать, чтобы успевать за скоростью технического прогресса. Глезе говорит, что компания принимает множество «не гигантских по масштабу, но болезненных решений», которые «замедляют исследования, но мы считаем, что это правильно». Пачоцкий говорит, что доверие в вопросах выравнивания и безопасности стало таким же важным фактором, ограничивающим скорость развития OpenAI, как и поставки вычислительных мощностей.

Компания по-прежнему планирует выпустить Astra, но теперь условием выпуска станет прохождение новых мер безопасности. Руководство отказалось оценивать, насколько эти изменения повлияют на сроки выпуска. В отрасли, где технологическое преимущество измеряется неделями, даже короткая пауза может повлиять на прогнозы выручки и вызвать цепную реакцию в более широкой экономике.

По крайней мере сейчас OpenAI готова принять эти издержки. Пачоцкий надеется, что быстрый рост возможностей ИИ подтолкнёт компании к координации. Глезе говорит, что по мере роста возможностей моделей OpenAI продолжит повышать планку безопасности. «Если однажды мы дойдём до точки, где не сможем гарантировать безопасность, придётся замедлиться», — сказала она. «Так обстоят дела».

Как эти изменения повлияют на сроки выхода OpenAI на биржу, пока неясно. Источники, знакомые с планами обеих компаний, ожидают, что IPO OpenAI состоится позже, чем у Anthropic, хотя ни одна из сторон публично не называла дату размещения.

19 августа на общем собрании сотрудников финансовый директор Фрайар сказала, что если бизнес компании «продолжит расти по экспоненте», OpenAI выйдет на биржу в 2027 году или раньше.

Недавно раскрытая годовая выручка OpenAI составляет около 40 миллиардов долларов, что меньше, чем у Anthropic, которая уже превысила 65 миллиардов долларов. Недавнее замедление исследований может ещё больше осложнить планы по IPO. Фрайар уже проводит репетиции публичной компании, включая имитационные звонки по финансовой отчётности с ключевыми инвесторами OpenAI. Она сказала мне, что компания «уже сегодня полностью готова к выходу на биржу», но этот шаг принесёт и новое давление. Тогда OpenAI придётся искать баланс между коммерческими интересами и возможным вредом от роста возможностей ИИ.

Сотрудники также начнут ставить проверку цены акций едва ли не выше всего остального. «Это станет первым, что они будут делать каждый день», — сказала она. «Сколько я сегодня заработал? Сколько потерял? Это будет сильно отвлекать».

Одна из исследовательских целей OpenAI на этот год — автоматизировать работу младших ИИ-исследователей. Пачоцкий говорит, что компания уже достигла внутреннего бенчмарка «автоматизированного ИИ-стажёра-исследователя». Получив идею эксперимента, Astra может реализовать её в библиотеках кода OpenAI, запустить эксперимент и вернуть результат; она также может прочитать статью и выполнить работу, на которую у человека-исследователя ушла бы неделя.

Важность этой вехи в том, что она может запустить постоянно самоусиливающийся цикл: ИИ помогает проводить эксперименты, эксперименты порождают более мощный ИИ, а новое поколение ИИ ещё быстрее помогает разрабатывать собственных преемников. Исследователи называют это явление «рекурсивным самоулучшением», сокращённо RSI. По мнению Пачоцкого, рекурсивное самоулучшение и выравнивание — переплетённые проблемы.

«Каким образом люди будут участвовать в этом путешествии?» — говорит Пачоцкий. «Как люди смогут действительно извлечь из этого пользу, а не остаться позади ИИ, который всё умнее нас?»

На продуктовом уровне Альтман представляет себе универсальную ИИ-подписку, которая сотрёт границы между ChatGPT, Codex и офисным ПО. Пользователю достаточно описать цель, а система сама решит, какие модели, инструменты и агенты задействовать.

В конечном итоге эта система будет действовать проактивно ещё до того, как пользователь попросит: сама предлагать рекомендации и заниматься такими мелочами, как покупка билетов на концерт. Она сможет учитывать ваше расписание, понимать ваше финансовое положение и знать ваши музыкальные вкусы.

Всё это служит одной цели: превратить ChatGPT из инструмента, отвечающего на вопросы, в систему, которая действительно доводит дела до конца. Руководитель продукта объединённой команды ChatGPT и Codex Тибо Соттьо говорит, что OpenAI скоро покажет продукт, построенный вокруг «непрерывности и круглосуточного выполнения задач». По его словам, эта система будет доступна практически отовсюду и станет непрерывно выполнять ценную работу на основе новой информации и обратной связи. «Для людей это обязательно будет ощущаться как нечто совершенно новое», — сказал мне Соттьо.

Дальше дорожная карта OpenAI становится ещё масштабнее. В мае 2025 года OpenAI приобрела аппаратный стартап io, сооснованный бывшим дизайнером Apple Джони Айвом, и влила его продуктовую и инженерную команды в OpenAI. Айв и его дизайнерская компания LoveFrom остаются независимыми, но уже взяли на себя широкие креативные обязанности внутри OpenAI.

Альтман говорит, что OpenAI разрабатывает «несколько» устройств, включая «нечто, что должно стоять на столе», устройство, которое можно положить в карман, и продукт, который можно носить на теле.

По словам источников, знакомых с планами, первый продукт ожидается в начале следующего года. Это небольшое устройство в форме диска, способное воспринимать окружающую обстановку и общаться с владельцем через голосовой режим ChatGPT. «Самая большая адаптация — привыкнуть к концепции „проактивного компьютера“», — говорит Альтман. Это означает, что компьютер будет действовать от имени владельца сам, а не ждать, пока его вызовут.

Альтман верит, что в будущем у каждого человека должен быть личный робот. Он сказал мне, что OpenAI «определённо» будет производить человекоподобных роботов. OpenAI также инвестировала в Merge Labs, сооснователем которой является Альтман; этот стартап разрабатывает неинвазивные интерфейсы «мозг-компьютер». Первый самостоятельно спроектированный OpenAI чип для инференса называется Jalapeño и предназначен в основном для запуска ИИ-моделей, а не для их обучения. Компания планирует начать развёртывание этого чипа до конца года.

Тем временем OpenAI рассматривает, стоит ли становиться инфраструктурной компанией редкого масштаба. В июле этого года компания объявила о строительстве кампуса дата-центров в Джорджии; в августе подписала соглашение о ещё более крупной площадке в Огайо.

«Я считаю, что мы сможем очень прибыльно использовать все запланированные вычислительные мощности», — говорит Альтман. «Но меня действительно беспокоит то, что делает весь мир».

Топ-менеджеры OpenAI говорят, что если компания сможет достаточно быстро и дёшево строить ИИ-инфраструктуру для себя, в будущем она может рассмотреть продажу вычислительных мощностей другим компаниям. Это поставит OpenAI в прямую конкуренцию с такими гиперскейлерами, как Amazon Web Services и Google Cloud.

Для компании, которая совсем недавно обещала отказаться от отвлекающих побочных проектов, это довольно внушительный список новых направлений. Когда Брокмана попросили обобщить всё это, он ответил двумя словами: «Персональный AGI». Он представляет будущее, в котором миллиарды людей будут иметь сверхразумных персональных ассистентов, всегда готовых к команде. «В вашем кармане уже лежит система, которая почти является AGI, а возможно, скоро станет настоящим AGI», — сказал он. «Так чего же вы на самом деле хотите?»