ชิป ASIC ใหม่ของ OpenAI แซง Nvidia Blackwell หลังเทปเอาต์เพียง 9 เดือน?

ผู้เขียนต้นฉบับ: ตง จิง

แหล่งข่าวต้นฉบับ: Wallstreetcn

ชิปตัวแรกที่ OpenAI พัฒนาขึ้นเองอย่าง Jalapeño เปิดตัวอย่างยิ่งใหญ่ พลิกโฉมภูมิทัศน์อุตสาหกรรมชิป AI อย่างรวดเร็วจนน่าตกใจ—นี่ไม่ใช่แค่การเปิดตัวผลิตภัณฑ์ แต่เป็นสัญญาณว่า AI กำลังเปลี่ยนแปลงวิธีการออกแบบชิปไปอย่างสิ้นเชิง

ตามรายงานของ Wallstreetcn บลูมเบิร์กรายงานเมื่อวันที่ 25 ส.ค. ว่า OpenAI ระบุว่า Jalapeño นำหน้า GB300 ของ Nvidia ในสองตัวชี้วัดสำคัญ ได้แก่ ปริมาณงาน AI ต่อหน่วยพลังงาน และความเร็วในการตอบสนอง ชิปนี้พัฒนาร่วมกับ Broadcom ออกแบบมาเฉพาะสำหรับขั้นตอนการอนุมานของ AI และคาดว่าจะเริ่มใช้งานจริงได้เร็วที่สุดภายในปลายปีนี้ ริชาร์ด โฮ หัวหน้าแผนกชิปของ OpenAI กล่าวว่า Jalapeño มอบประสิทธิภาพที่แข็งแกร่งที่การใช้พลังงานต่ำเพียง 700 วัตต์ ช่วยลดค่าไฟฟ้าของศูนย์ข้อมูลได้อย่างมาก

ตามข้อมูลของ SemiAnalysis บริษัทวิจัยเซมิคอนดักเตอร์ ชิปนี้ใช้เวลาเพียงประมาณ 16 เดือนตั้งแต่เริ่มออกแบบจนถึงการเทปเอาต์ โดยโหนดเทปเอาต์ CoWoS ที่สำคัญเสร็จสิ้นในเดือนพฤศจิกายน 2025—เพียง 9 เดือนที่แล้ว ซึ่งสั้นกว่ารอบปกติของอุตสาหกรรมที่ 18 ถึง 36 เดือนอย่างมาก

นักวิจัยของ SemiAnalysis ได้เยี่ยมชมห้องแล็บของ OpenAI ด้วยตนเอง และทดสอบ Jalapeño โดยใช้ชุดทดสอบประสิทธิภาพเฉพาะของพวกเขาที่ชื่อ InferenceX ข้อสรุปตรงไปตรงมา: ชิปนี้เอาชนะชิปทั้งหมดของ Nvidia, AMD และ Google ที่พวกเขาเคยทดสอบมาในด้านประสิทธิภาพต่อวัตต์ (perf/W)

ที่น่าสังเกตยิ่งกว่าคือ ผลลัพธ์นี้เกิดขึ้นโดยที่ Jalapeño ไม่ได้เปิดใช้ speculative decoding หรือ prefill-decode disaggregation (PDD) ในขณะที่ชิปอื่นๆ ที่นำมาเปรียบเทียบล้วนทำงานด้วยการตั้งค่าที่เหมาะสมที่สุดของตัวเอง

ไม่น่าแปลกใจที่นักวิเคราะห์เซมิคอนดักเตอร์ชื่อดัง ดีแลน พาเทล กล่าวอย่างตรงไปตรงมาว่า "ไม่ใช่แค่ Blackwell ที่ถูกโค่น—แม้แต่ชิป Rubin ของ Nvidia ก็ถูกแซงหน้าไปแล้ว"!

นักวิเคราะห์เชื่อว่าผลลัพธ์นี้เป็นความท้าทายโดยตรงต่อตำแหน่งทางการตลาดของ Nvidia และบังคับให้ตลาดต้องประเมินภูมิทัศน์การแข่งขันของชิป AI ใหม่

ข้อมูลการทดสอบเปรียบเทียบ: Jalapeño บดขยี้ Blackwell ในหลายตัวชี้วัดสำคัญ

ผลการทดสอบของ SemiAnalysis แสดงให้เห็นว่าข้อได้เปรียบของ Jalapeño ในด้านประสิทธิภาพการอนุมานนั้นมีนัยสำคัญอย่างมาก

บนโมเดล GPT-OSS 120B Jalapeño สร้างผลลัพธ์ประมาณ 1,459 โทเค็นต่อวินาที ในขณะที่ GB200 ของ Nvidia ทำได้เพียง 535 โทเค็น ในด้านความหน่วงแบบ end-to-end Jalapeño ทำงานเสร็จในเวลาเพียง 1.65 วินาที ในขณะที่ GB300 ใช้เวลาเกือบ 6 วินาที—ต่างกัน 3.6 เท่า ในสถานการณ์ที่มีการโต้ตอบสูง เมื่อ GB300 ถูกเร่งความเร็วในการถอดรหัสสูงสุด (169 โทเค็นต่อวินาที) ปริมาณงานของ Jalapeño สูงกว่า GB300 ถึง 104.3 เท่า

ในด้านโทเค็นต่อเมกะวัตต์ต่อวินาที—ตัวชี้วัดหลักสำหรับประสิทธิภาพพลังงานของศูนย์ข้อมูล—Jalapeño ทำได้ประมาณ 53 ล้านโทเค็น/MW/s บนโมเดล GPT-OSS ในขณะที่ GB200 NVL72 ทำได้เพียงประมาณ 10 ล้านโทเค็น

SemiAnalysis ชี้ให้เห็นว่าตัวชี้วัดนี้เทียบเท่ากับโทเค็นที่ผลิตได้ต่อจูล ซึ่งกำหนดเพดานรายได้ของศูนย์ข้อมูลโดยตรง—ข้อได้เปรียบนี้มีความสำคัญอย่างยิ่งในยุคที่พลังการประมวลผลถูกจำกัดด้วยไฟฟ้า

จากมุมมองต้นทุนระดับระบบ หลังจากที่ SemiAnalysis รวมค่าใช้จ่ายด้านแหล่งจ่ายไฟ ระบบระบายความร้อน และเครือข่ายแล้ว ต้นทุนรวมในการเป็นเจ้าของ (TCO) ต่อชิปต่อชั่วโมงของ Jalapeño อยู่ที่ประมาณ 1.56 ดอลลาร์สหรัฐ ใกล้เคียงกับ H100 ที่ 1.55 ดอลลาร์สหรัฐ ในขณะที่ Vera Rubin ของ Nvidia สูงถึง 3.61 ดอลลาร์สหรัฐ

เป็นที่น่าสังเกตว่า SemiAnalysis ยังได้ตั้งข้อควรระวังที่สำคัญหลายประการ

ประการแรก โมเดลที่ใช้ในการทดสอบไม่ใช่โมเดลที่ล้ำสมัยที่สุดในปัจจุบัน Nvidia และ AMD ได้เผยแพร่ผลลัพธ์จากชุดทดสอบ AgentX บนโมเดลขนาดใหญ่กว่า (เช่น DeepSeek V4 Pro และ Kimi K3) ในขณะที่ Jalapeño ยังไม่ได้ทำการทดสอบ AgentX—ชุดทดสอบที่สะท้อนประสิทธิภาพในสถานการณ์การผลิตจริงที่มีเวิร์กโหลดแบบหลายรอบและบริบทยาวได้ดีกว่า

ประการที่สอง การเปรียบเทียบที่ยุติธรรมกว่าควรเทียบกับ Vera Rubin ของ Nvidia ซึ่งใช้ HBM4 เช่นกัน มากกว่า Blackwell ประสิทธิภาพต่อวัตต์ (perf/W) ของ Vera Rubin สูงกว่า GB200 NVL72 ประมาณ 5.4 เท่า และเมื่อเทียบกับ Jalapeño ทั้งสองมีต้นทุนรวมในการเป็นเจ้าของ (TCO) ต่อโทเค็นใกล้เคียงกัน

ประการที่สาม Jalapeño ยังอยู่ในขั้นตัวอย่างวิศวกรรม โดยคาดว่าการผลิตจำนวนมากจะค่อยๆ เพิ่มขึ้นในปี 2027 เท่านั้น

ชิปที่ออกแบบโดย AI: วงล้อแห่งการเติบโตของ GPT-Astra และ Codex

เหตุผลหลักที่ Jalapeño ถูกพัฒนาด้วยความเร็วที่น่าทึ่งคือการมีส่วนร่วมอย่างลึกซึ้งของเครื่องมือ AI ตามข้อมูลของ SemiAnalysis OpenAI ใช้โมเดล AI ภายในอย่างกว้างขวางในกระบวนการออกแบบชิป รวมถึง GPT-Astra ที่ได้รับความสนใจอย่างมาก

ผู้ใช้แพลตฟอร์มโซเชียล X ชื่อแอนดรูว์ เคอร์แรน อ้างอิงข้อมูลของ OpenAI ชี้ให้เห็นว่า GPT-Astra มีส่วนร่วมอย่างลึกซึ้งตลอดการวิจัยและพัฒนาของ Jalapeño:

"ทีมงานใช้ Codex และ GPT-Astra เพื่อปรับแต่งโมเดลโอเพนซอร์สสามตัวที่เดิมไม่ได้อยู่ในแผนการผลิตจำนวนมากของ Jalapeño ให้มีประสิทธิภาพสูงภายในสองเดือน"

นั่นหมายความว่า AI ไม่เพียงแต่เร่งการออกแบบชิปเท่านั้น แต่ยังขยายขอบเขตของโมเดลที่ชิปรองรับได้อย่างรวดเร็วอีกด้วย

ข้อมูลของ SemiAnalysis ยังระบุปริมาณการมีส่วนร่วมนี้เพิ่มเติม:

การออกแบบที่ช่วยด้วย AI ลดพื้นที่หน่วย SIMD ลง 8% และพื้นที่เอ็นจิ้นเมทริกซ์ลง 10% ในขณะที่ยังมีประสิทธิภาพเหนือกว่าเวอร์ชันเริ่มต้นในด้านไทม์มิ่งและการใช้พลังงาน

ในระดับซอฟต์แวร์ OpenAI ใช้ Codex เวอร์ชันขยายภายในเพื่อเขียนเคอร์เนลของ Jalapeño โดยโค้ดเคอร์เนลบางส่วนมีความยาวประมาณ 3,000 บรรทัด ในโมดูล attention mechanisms และ MoE ที่สำคัญที่สุดต่อประสิทธิภาพ โค้ดที่สร้างโดย AI เร็วกว่าการเขียนโค้ดของวิศวกรระดับแนวหน้าถึง 1.5 ถึง 1.8 เท่า

การประเมินของ SemiAnalysis นั้นเฉียบคม: โมเดลของ OpenAI ที่ทำงานบน GPU ของ Nvidia (เช่น GPT-5.6 Sol) กำลังถูกใช้เพื่อออกแบบชิปที่เป็นภัยคุกคามต่อคูเมือง CUDA อย่างแท้จริง—"GPU ของ Nvidia เองกำลังเพาะพันธุ์ผู้สืบทอดที่มีศักยภาพแบบเรียลไทม์"

การวิเคราะห์สถาปัตยกรรม: ทำไม "ชิปเอนกประสงค์" ถึงเร็วกว่า?

โลกภายนอกมักสันนิษฐานว่า Jalapeño เป็นชิปที่ปรับแต่งอย่างลึกซึ้งสำหรับโมเดลของ OpenAI เอง แต่ข้อสรุปของ SemiAnalysis ตรงกันข้าม: Jalapeño เป็นชิปเอนกประสงค์สำหรับการอนุมาน AI สามารถรันโมเดลและเวิร์กโหลดต่างๆ ได้หลากหลาย รวมถึงเกม Doom ที่พอร์ตด้วย Codex

ในระดับสถาปัตยกรรม ปรัชญาการออกแบบหลักของ Jalapeño คือ "การขจัดความหน่วงคงที่" ซึ่งแตกต่างจาก GPU ที่พึ่งพาลำดับชั้นหน่วยความจำที่ซับซ้อน Jalapeño เชื่อมต่อคอร์ประมวลผลเข้ากับชิ้นส่วน HBM โดยตรง โดยคอร์ซิงโครไนซ์ผ่านเครือข่ายรวมแบนด์วิดท์สูงเฉพาะ ซึ่งช่วยลดความหน่วงในการเข้าถึงหน่วยความจำได้อย่างมาก

นอกจากนี้ Jalapeño ยังใช้คอร์แบบ out-of-order execution (OoO) คู่กับแคช L1 แทนที่จะเป็นหน่วยความจำชั่วคราวที่จัดการโดยซอฟต์แวร์ซึ่งใช้กันทั่วไปในตัวเร่งความเร็วอื่นๆ ทำให้สามารถเข้าใกล้จุดสูงสุดทางทฤษฎีของฮาร์ดแวร์ในสถานการณ์แบตช์เล็กและความหน่วงต่ำ

ในด้านแบนด์วิดท์หน่วยความจำ Jalapeño ใช้ HBM4 ให้แบนด์วิดท์หน่วยความจำต่อแพ็กเกจ 15.4TB/s โดยมีแบนด์วิดท์ HBM ต่อวัตต์ที่ 22 เทียบกับ Rubin ของ Nvidia ที่ 11.1 และ GB300 ที่เพียง 5.71

SemiAnalysis ระบุว่าความเร็วพิน HBM4 ของ Jalapeño สูงถึง 10Gbps สูงกว่า Rubin ของ Nvidia ที่ 9.6Gbps เล็กน้อย และซัพพลายเออร์ HBM อาจเป็น Samsung

เป็นที่น่ากล่าวถึงว่า Jalapeño เลือกที่จะไม่ใช้ prefill-decode disaggregation (PDD) SemiAnalysis ให้คำอธิบายโดยละเอียด:

ในสภาพแวดล้อมการผลิตจริง พารามิเตอร์ต่างๆ เช่น อัตราส่วนอินพุต-เอาต์พุต ความพร้อมกัน และอัตราการเข้าถึงแคชเปลี่ยนแปลงอย่างต่อเนื่อง การรวมทรัพยากรแบบคงที่ทำให้การใช้ประโยชน์โดยรวมลดลง ในขณะที่พูลทรัพยากรที่เป็นเนื้อเดียวกันสามารถตอบสนองต่อการเปลี่ยนแปลงของทราฟฟิกได้อย่างยืดหยุ่น และจัดสรรแบบไดนามิกระหว่างคำขอที่ไวต่อความหน่วงและการประมวลผลแบตช์ที่มีปริมาณงานสูง

คูเมือง CUDA: รอยร้าวเริ่มปรากฏแล้วหรือยัง?

รายงานของ SemiAnalysis ให้การตัดสินที่หนักแน่น: คูเมือง CUDA อาจตายไปแล้ว

พื้นฐานอยู่ที่การเปรียบเทียบความเร็วในการพัฒนาซอฟต์แวร์ การเทปเอาต์ CoWoS ของ Rubin ของ Nvidia เสร็จสิ้นก่อน Jalapeño หนึ่งเดือน แต่จนถึงขณะนี้ ข้อมูลการทดสอบเปรียบเทียบสาธารณะเพียงอย่างเดียวของ Rubin มาจากตัวอย่างวิศวกรรมของ CoreWeave Nvidia ไม่ได้เปิดห้องแล็บให้บุคคลที่สามทดสอบฟรีเหมือนที่ OpenAI ทำ SemiAnalysis เชื่อว่าสิ่งนี้สะท้อนถึงช่องว่างด้านความสมบูรณ์ของซอฟต์แวร์ ไม่ใช่ช่องว่างด้านฮาร์ดแวร์

การสร้างสแต็กซอฟต์แวร์ตั้งแต่ต้นทำให้ OpenAI ปลดภาระทางประวัติศาสตร์และตัดสินใจทางสถาปัตยกรรมได้ชัดเจนขึ้น OpenAI ใช้ภาษาการเขียนโปรแกรมเคอร์เนลเฉพาะของตนชื่อ Gluon (สร้างบน Triton) และเอ็นจิ้นการอนุมานภายในที่เรียกว่า "Teacup" และใช้ Codex เพื่อปรับแต่งเคอร์เนลอย่างรวดเร็ว SemiAnalysis สังเกตว่าในเวลาไม่ถึงสองสัปดาห์ ปริมาณงานของ Jalapeño ที่ความเร็วการโต้ตอบเฉพาะดีขึ้นมากกว่า 2 เท่า ภายใน 8 วัน ทีมงานขยาย tensor parallelism จาก TP8 เป็น TP32 บรรลุการปรับใช้เต็มรูปแบบในระดับแร็ค

อย่างไรก็ตาม SemiAnalysis ยังชี้ให้เห็นอย่างชัดเจนว่าการทดสอบปัจจุบันครอบคลุมเฉพาะเวิร์กโหลด 8k1k ที่ค่อนข้างง่าย และยังไม่ได้ทำการทดสอบ AgentX แบบหลายรอบและบริบทยาว ภายใต้เวิร์กโหลดเอเจนต์ที่ซับซ้อนมากขึ้น ประสิทธิภาพของส่วนประกอบต่างๆ เช่น เราเตอร์และแคชคำนำหน้าจะกลายเป็นความท้าทายใหม่

ขั้นตอนต่อไป: B0 เข้าโรงงานผลิตแล้ว แผนงาน 10GW กำลังคลี่คลาย

เรื่องราวของ Jalapeño ยังไม่จบ

ตามข้อมูลของ SemiAnalysis ตัวอย่างที่ทดสอบสาธารณะทั้งหมดเป็นสเต็ปปิ้ง A0 ในขณะที่สเต็ปปิ้ง B0 ได้เข้าโรงงานผลิตแล้ว และคาดว่าจะปรับปรุงประสิทธิภาพต่อวัตต์ได้ประมาณ 25% เมื่อเทียบกับ A0—ไดย์ประมวลผลเดี่ยวของ B0 จะให้พลังประมวลผล MXFP4 13.4 PFLOPs โดยรักษา TDP ไว้ที่ 700W

ในระดับระบบ OpenAI ร่วมมือกับ Celestica ออกแบบโซลูชันแร็คที่สมบูรณ์: ตู้ ASIC แต่ละตู้บรรจุชิป Jalapeño 128 ตัว โดยระบบตู้คู่ใช้พลังงานรวมประมาณ 160kW เทียบเท่ากับตู้คู่แบบกว้าง GB300 ของ Nvidia

สำหรับการปรับใช้ขนาดใหญ่ โดเมนเครือข่ายแบบขยายขนาดเดียวสามารถเชื่อมต่อ Jalapeño XPU ได้สูงสุด 2,048 ตัวใน 16 แร็ค ในด้านการผลิตจำนวนมาก SemiAnalysis คาดว่าจะค่อยๆ เพิ่มกำลังการผลิตในปี 2027 โดยเป้าหมายถัดไปคือระดับการปรับใช้ 100MW

ภาพรวมเชิงกลยุทธ์ที่ใหญ่กว่าคือ OpenAI และ Broadcom ได้ลงนามข้อตกลงความร่วมมือตัวเร่งความเร็วแบบกำหนดเอง 10GW ซึ่งมีขนาดเทียบเท่ากับผลผลิตเต็มกำลังของเครื่องปฏิกรณ์นิวเคลียร์สิบเครื่อง

บทความของ Wallstreetcn เขียนว่า ริชาร์ด โฮ หัวหน้าแผนกชิปของ OpenAI กล่าวว่าบริษัทบรรลุระดับพลังงานและต้นทุนที่สามารถลดต้นทุนโครงสร้างพื้นฐานได้อย่างมีประสิทธิภาพ และ "นี่เป็นเพียงก้าวแรก" เขายังเน้นย้ำว่า Nvidia ยังคงเป็นพันธมิตรที่สำคัญ และความต้องการพลังการประมวลผลของ OpenAI นั้นมหาศาล ดังนั้นจะไม่ละทิ้งซัพพลายเออร์รายเดิมในระยะสั้น

นักวิเคราะห์ชี้ให้เห็นว่าความสำคัญของ Jalapeño อาจไม่ได้อยู่ที่ว่าวันนี้สามารถแทนที่ชิป Nvidia ได้กี่ตัว แต่อยู่ที่การพิสูจน์สิ่งที่เคยถูกสงสัยอย่างกว้างขวาง: บริษัท AI ที่ใช้เครื่องมือ AI ในเวลาที่ทำลายสถิติ ได้สร้างชิปที่แข่งขันได้อย่างแท้จริง วงล้อแห่งการเติบโตนี้เริ่มหมุนแล้ว