OpenAI закупил десятки тысяч Mac для обучения с подкреплением, отобрав работу у Nvidia

OpenAI закупил десятки тысяч Mac mini и Mac Studio, сосредоточившись на обучении с подкреплением, Anthropic также арендует Mac через AWS для обучения «агентов, использующих компьютеры». Унифицированная память и система охлаждения чипов Apple серии M делают их подходящими для таких задач, продажи Mac выросли почти на 29%. Apple не планировала активно выходить на корпоративный рынок, но поставки исчерпаны на несколько месяцев, и партнёры продвигают Mac в более глубокие корпоративные сегменты.

OpenAI, как сообщается, массово скупает Mac — сразу десятки тысяч штук.

Их случайно раскупили полностью, и теперь приходится искать способы достать ещё.

Ноутбуки MacBook не нужны — только Mac mini и Mac Studio без экрана и клавиатуры.

Тогда возникает вопрос: какие задачи ИИ не под силу GPU Nvidia и TPU Google, что для них требуются именно Mac?

Десятки тысяч Mac для обучения с подкреплением, Anthropic тоже этим занимается

По данным The Information, OpenAI закупил десятки тысяч Mac mini и Mac Studio специально для обучения с подкреплением.

Не только OpenAI: Anthropic также арендует Mac mini через облачный сервис AWS для аналогичных задач.

Эти Mac используются для обучения «агентов, использующих компьютеры» (computer-use agent) — ИИ-систем, способных автономно управлять компьютером, выполнять многошаговые задачи, такие как редактирование и тестирование кода, автоматическая сортировка почты, резюмирование документов.

Этот ажиотаж напрямую отразился в финансовой отчётности Apple.

В последнем квартале продажи Mac выросли почти на 29% по сравнению с аналогичным периодом прошлого года, достигнув $10,3 млрд, опередив по темпам роста все другие продуктовые линейки Apple, включая iPhone и iPad. Mac стал самым быстрорастущим бизнесом Apple.

23 июня в штаб-квартире Apple Park прошло мероприятие под названием «Business at the Park». Это нетипично для Apple, которая традиционно ориентирована на потребительский рынок и редко проводит мероприятия специально для корпоративных клиентов.

На мероприятии присутствовали руководители Disney и Ford, сооснователь Anthropic Jared Kaplan, а также уходящий генеральный директор Apple Tim Cook и его преемник John Ternus.

По словам одного из участников, Apple неоднократно подчёркивала, что её оборудование отлично подходит для локальной обработки ИИ-задач, и Mac mini был в центре внимания всего мероприятия.

Обучение ИИ долгое время доминировало благодаря GPU Nvidia, но Mac удалось закупить в больших масштабах именно в нише обучения с подкреплением благодаря унифицированной памяти.

У GPU Nvidia видеопамять и системная память разделены, и передача данных между ними создаёт узкое место. Чипы Apple серии M используют единый пул общей памяти, к которому CPU и GPU обращаются напрямую, что даёт преимущество в производительности при обработке ИИ-нагрузок.

Кроме того, в отличие от тонких MacBook, Mac mini и Mac Studio оснащены специальной системой охлаждения, которая предотвращает перегрев и снижение частоты при длительном выполнении сложных ИИ-задач. Это критически важно для обучения с подкреплением, которое может длиться часами или даже днями.

Apple также продвигает открытый программный проект EXO Labs, позволяющий объединять несколько Mac в кластер для локального запуска ИИ-моделей с триллионами параметров.

В только что выпущенном новом Mac Studio особо подчёркивается возможность кластеризации: несколько Mac Studio можно соединить в более мощную систему для запуска передовых моделей.

Время выпуска новинки также необычно. Apple обычно обновляет линейку Mac в конце года — в октябре или ноябре, но в этот раз обновление вышло раньше — в августе.

Nvidia обратила внимание, Apple реагирует в спешке

Рост популярности Mac в области локального ИИ привлёк внимание Nvidia.

По словам источника, обсуждавшего конкурентную ситуацию с руководителями Nvidia, Nvidia считает Apple своим крупнейшим конкурентом в сфере локального ИИ.

В конце прошлого года Nvidia выпустила DGX Spark — настольный ИИ-компьютер, по дизайну похожий на Mac mini, нацеленный непосредственно на этот рынок.

Apple сталкивается с реальной проблемой нехватки поставок.

Огромный спрос на чипы памяти со стороны ИИ-дата-центров привёл к беспрецедентному дефициту по всей отрасли, и Apple не стала исключением.

Наиболее привлекательные для ИИ-разработчиков конфигурации Mac mini и Mac Studio с высокими характеристиками уже несколько месяцев отсутствуют в наличии.

Бывший менеджер по корпоративному маркетингу ИИ-продуктов Apple Todd Dailey сообщил, что за последний год из-за ограниченных поставок Mac некоторые компании начали искать альтернативы, и DGX Spark от Nvidia часто упоминается как вариант, причём сейчас он есть в наличии.

Дейли уволился из Apple в апреле этого года и сейчас работает независимым ИИ-консультантом. Он также отметил, что популярность Mac на корпоративном ИИ-рынке оказалась полной неожиданностью, а не результатом целенаправленного планирования Apple. У Apple нет инженерной команды, ориентированной на корпоративных клиентов, и нет сотрудников, занимающихся отношениями с разработчиками.

Последним серверным продуктом Apple был Xserve, снятый с производства в 2011 году. Серверная операционная система на базе Mac также прекратила разработку в 2022 году.

Однако некоторые уже почувствовали возможность.

Бывший сотрудник OpenAI по вычислительной инфраструктуре Peter Voell основал Mount Thor — компанию облачных вычислений на базе оборудования Apple, которая пока работает в скрытом режиме. На официальном сайте продукт описывается как «среда выполнения ИИ на базе оборудования Apple».

Apple также возлагает надежды на таких партнёров, как Mount Thor и webAI, чтобы продвинуть Mac глубже на корпоративный рынок.

Недавно Apple наконец начала создавать собственные серверы на базе чипов Mac. Однако эти серверы предназначены только для внутреннего использования — для сервиса Private Cloud Compute (частные облачные вычисления), обрабатывающего ИИ-задачи, которые выходят за рамки возможностей iPhone или Mac.

Некоторые корпоративные клиенты спрашивали, может ли Apple продать права на использование этих серверов, но Apple пока отказывает.