Google разбирает выведенные из эксплуатации серверы для переработки DDR4 в ответ на нехватку памяти

Старший директор Google по инфраструктуре цепочки поставок Нихил Чериан сообщил, что для преодоления узких мест в памяти Google разрабатывает программные и аппаратные решения, а также разбирает выведенные из эксплуатации серверы для переработки компонентов DDR4, создавая внутреннюю цепочку поставок по переработке. Google разработал специальные аппаратные адаптеры для подключения DDR4 предыдущего поколения к новым ИИ-серверам, а также импортирует выведенные из эксплуатации серверы для извлечения и переработки их модулей DDR4. Чериан заявил, что ИИ-индустрия быстро перешла от ограничений по вычислительной мощности к ограничениям по памяти, при этом высокопроизводительная память составляет около 75% стоимости компонентов для конкретного ИИ-сервера. В отчете Goldman Sachs указывается, что цены на память продолжат расти в третьем квартале: ожидается, что цены на DRAM для ПК вырастут на 18–23%, а на серверную DRAM — на 13–18%. Данные TrendForce показывают, что в августе спотовые цены на DDR4 8GB и DDR5 8GB выросли до $142 и $133 соответственно. Два TPU ASIC, выпущенные Google в этом году, были оптимизированы с точки зрения конструкции памяти, что, как утверждается, позволяет снизить потребность в памяти до одной шестой от первоначальной. Чип TPU8i отличается специальной многоуровневой конструкцией памяти, которая полагается на высокоскоростную архитектуру памяти DDR5 для выполнения задач на уровне хоста, при этом каждый чип оснащен 288 ГБ высокоскоростной памяти HBM3e.