Hynix ได้เผยแพร่แผนงาน CPO ของตนในวารสารชั้นนำ โดยระบุว่าไม่เพียงแต่ "การใช้แสงระหว่างพลังการประมวลผล" เท่านั้น แต่ยังขยายการใช้แสงไปยังอินเทอร์เฟซหน่วยความจำอีกด้วย

SK Hynix ร่วมกับมหาวิทยาลัยเวอร์จิเนียและสถาบันอื่นๆ ได้ตีพิมพ์บทความเกี่ยวกับแผนงานเทคโนโลยี CPO (Computational Processing Point) ในวารสาร *Nature Electronics* บทความดังกล่าวชี้ให้เห็นว่า ในขณะที่กำลังการประมวลผลเพิ่มขึ้นสามเท่าทุกๆ สองปี แต่แบนด์วิดท์การเชื่อมต่อกลับเพิ่มขึ้นเพียง 1.4 เท่า ทำให้ "กำแพงแบนด์วิดท์" กลายเป็นปัญหาคอขวดหลักสำหรับการขยายตัวของ AI เทคโนโลยี CPO ถูกระบุว่าเป็นความก้าวหน้าที่สำคัญ โดยมีวิสัยทัศน์เพิ่มเติมในการขยาย CPO ไปยังอินเทอร์เฟซหน่วยความจำ เพื่อให้ตัวเร่งความเร็ว AI หลายตัวสามารถใช้หน่วยความจำร่วมกันได้ และปรับปรุงประสิทธิภาพการใช้หน่วยความจำให้ดียิ่งขึ้น

เมื่อวันที่ 20 สิงหาคม นักวิจัยจาก SK Hynix มหาวิทยาลัยเวอร์จิเนีย และสถาบันอื่นๆ ได้ร่วมกันตีพิมพ์บทความในวารสารวิทยาศาสตร์ชั้นนำ * Nature Electronics * โดยได้อธิบายอย่างเป็นระบบถึงแผนงานการพัฒนาเทคโนโลยี Co-Packaged Optics (CPO) ในด้านการประมวลผลประสิทธิภาพสูงและปัญญาประดิษฐ์ (AI) นี่ถือเป็นครั้งแรกที่ SK Hynix เปิดเผยพิมพ์เขียวทางเทคนิคของสถาปัตยกรรมเชื่อมต่อ AI ของตนในวารสารที่มีชื่อเสียงเช่นนี้

บทความนี้กล่าวว่า แม้ว่า HBM จะช่วยแก้ปัญหาคอขวดด้านหน่วยความจำภายในชิปได้ แต่เมื่อคลัสเตอร์ AI ขยายขนาดไปถึง GPU หลายพันตัว การถ่ายโอนข้อมูลระหว่างแร็คก็กลายเป็นข้อจำกัดใหม่ นั่นคือ "กำแพงแบนด์วิดท์" และ CPO ถูกวางตำแหน่งให้เป็นเส้นทางสำคัญในการเอาชนะปัญหาคอขวดนี้

วิสัยทัศน์ระยะยาวของบทความนี้คือการขยายการเชื่อมต่อทางแสงไปยังอินเทอร์เฟซหน่วยความจำ โซลูชันที่มี อยู่ส่วนใหญ่เน้นการส่งข้อมูลระหว่างโปรเซสเซอร์และแร็ค อย่างไรก็ตาม สถาปัตยกรรมที่เน้น "ด้านแสง" ที่เสนอมานี้ เชื่อมต่อกลุ่มทรัพยากรโปรเซสเซอร์ (กลุ่ม XPU) กับกลุ่มทรัพยากรหน่วยความจำโดยตรงผ่านตัวเชื่อมต่อทางแสง ซึ่งช่วยให้ตัวเร่งความเร็ว AI หลายตัวสามารถใช้หน่วยความจำจำนวนมากร่วมกันได้ เอาชนะข้อจำกัดของข้อจำกัดทางกายภาพของบรรจุภัณฑ์ในปัจจุบัน

ผู้เขียนหลักของบทความนี้คือ ซึงฮุน ฮง หัวหน้าทีมโครงสร้างพื้นฐาน AI ของ SK Hynix และ คยูซัง ลี ศาสตราจารย์ประจำภาควิชาวิศวกรรมไฟฟ้าและคอมพิวเตอร์ มหาวิทยาลัยเวอร์จิเนีย สถาบันที่เข้าร่วมยังรวมถึง มหาวิทยาลัยอิลลินอยส์ เออร์บานา-แชมเปญ (UIUC) มหาวิทยาลัยเทคโนโลยีหนานยาง (NTU) สถาบันเทคโนโลยีแมสซาชูเซตส์ (MIT) และมหาวิทยาลัยยอนเซ

เช้านี้ หุ้น SK Hynix พุ่งขึ้นกว่า 11% จากข่าวแผนการซื้อหุ้นคืนของบริษัท หุ้นกลุ่ม CPO ในประเทศก็ปรับตัวขึ้นอย่างผันผวนเช่นกัน โดย Taicheng Optoelectronics ปรับตัวขึ้นกว่า 12% ขณะที่ Zhongjing Electronics แตะระดับสูงสุดประจำวันก่อนหน้านี้ และ Tianzhun Technology, Shijia Photonics, Dekel และ Liante Technology ต่างก็ปรับตัวขึ้นกว่า 6%

ข้อจำกัดด้านแบนด์วิดท์: ยิ่งพลังการประมวลผลสูงเท่าไร ปัญหาคอขวดก็ยิ่งชัดเจนมากขึ้นเท่านั้น

การฝึกฝนโมเดล AI ไม่ได้จำกัดอยู่แค่ชิปหรือเซิร์ฟเวอร์ตัวเดียวอีกต่อไป แต่ทำงานบนเครือข่ายขนาดใหญ่ที่ประกอบด้วยแร็คและพ็อด ในสถาปัตยกรรมนี้ ประสิทธิภาพโดยรวมของระบบไม่ได้ขึ้นอยู่กับประสิทธิภาพของการเชื่อมต่อระหว่างโปรเซสเซอร์และหน่วยความจำเท่านั้น แต่ยังขึ้นอยู่กับความเร็วในการถ่ายโอนข้อมูลระหว่างแร็คด้วย

ข้อมูลแสดงให้เห็นว่ากำลังการประมวลผลเพิ่มขึ้นประมาณสามเท่าทุกๆ สองปี ในขณะที่แบนด์วิดท์การเชื่อมต่อเพิ่มขึ้นเพียงประมาณ 1.4 เท่าในช่วงเวลาเดียวกัน

ช่องว่างนี้เป็นที่มาของ "กำแพงแบนด์วิดท์" การเชื่อมต่อทางไฟฟ้าด้วยสายทองแดงแบบดั้งเดิมยังคงมีข้อได้เปรียบด้านต้นทุนในระยะทางสั้นๆ แต่เมื่อความเร็วและระยะทางในการส่งข้อมูลเพิ่มขึ้น การสูญเสียสัญญาณและการใช้พลังงานก็จะเพิ่มขึ้นอย่างรวดเร็ว ทำให้ต้องใช้วงจรชดเชยที่ซับซ้อนมากขึ้น และความหน่วงก็เพิ่มขึ้นด้วย

ในบทความของเขา คยูซัง ลี ชี้ให้เห็นโดยตรงว่า "แม้ว่าชิปประมวลผลจะทรงพลังมากขึ้น แต่ประสิทธิภาพโดยรวมของระบบจะไม่สามารถปรับปรุงได้หากการส่งข้อมูลระหว่างชิปไม่ทัน การเปลี่ยนการเชื่อมต่อด้วยทองแดงซึ่งมีข้อจำกัดทางกายภาพโดยธรรมชาติ มาเป็นการเชื่อมต่อด้วยแสง คือแนวทางที่มีแนวโน้มดีที่สุดในการบรรลุความสามารถในการขยายขนาดในอนาคต"

CPO: การบรรจุกลไกออปติคอลลงในแพ็คเกจโปรเซสเซอร์

แนวคิดหลักของ CPO คือการรวมตัวรับส่งสัญญาณแสง (TRx) เข้าไว้ในแพ็คเกจเดียวกันกับโปรเซสเซอร์ ทำให้ชิปสามารถแลกเปลี่ยนข้อมูลโดยใช้สัญญาณแสงแทนสัญญาณไฟฟ้าทางไกลได้

ซึงฮุน ฮง อธิบายไว้ดังนี้: "CPO เปลี่ยนแปลงวิธีการไหลเวียนของข้อมูลในระบบ AI อย่างสิ้นเชิง โดยขจัดอุปสรรคที่ใหญ่ที่สุดประการหนึ่งในการขยายขีดความสามารถในการประมวลผล"

โดยเฉพาะอย่างยิ่ง CPO จะบีบอัดระยะการส่งสัญญาณไฟฟ้าความเร็วสูงให้สั้นที่สุดเท่าที่จะเป็นไปได้ โดยแทนที่เส้นทางที่เหลือด้วยการเชื่อมต่อทางแสง ซึ่งจะช่วยรักษาประสิทธิภาพของการเชื่อมต่อทางไฟฟ้าภายในของแพ็กเกจ ในขณะเดียวกันก็ใช้ประโยชน์จากคุณลักษณะการสูญเสียต่ำของแสงเพื่อให้สามารถส่งสัญญาณความเร็วสูงข้ามชิป แร็ค และคลัสเตอร์ได้ อีกทั้งยังให้ความต้านทานต่อการรบกวนทางแม่เหล็กไฟฟ้าที่แข็งแกร่งยิ่งขึ้น

เอกสารฉบับนี้ได้กำหนดข้อกำหนดทางเทคนิคที่ชัดเจนสำหรับโครงสร้างพื้นฐาน AI รุ่นต่อไป ได้แก่ แบนด์วิดท์เกิน 100 Tb/s ต่อโหนด การใช้พลังงานน้อยกว่า 1 pJ/bit และความหน่วงแฝงระหว่างชิปน้อยกว่า 10 นาโนวินาที

นอกจากนี้ เอกสารยังกล่าวถึงวิวัฒนาการของ CPO ตั้งแต่โครงสร้างชั้นกลางแบบ 2 มิติและ 2.5 มิติ ไปจนถึงการเรียงซ้อนแบบไม่เป็นเนื้อเดียวกันใน 3 มิติ และระบุถึงความท้าทายทางเทคนิคที่สำคัญที่ต้องเอาชนะเพื่อให้สามารถนำไปใช้งานในเชิงพาณิชย์ได้

เป้าหมายระยะยาว: ขยายการใช้งานแสงไปยังอินเทอร์เฟซหน่วยความจำ

เอกสารฉบับนี้เสนอวิสัยทัศน์ระยะยาวในการขยายการเชื่อมต่อทางแสงไปยังอินเทอร์เฟซหน่วยความจำ ซึ่งเป็นแนวคิดทางสถาปัตยกรรมที่ก้าวไปอีกขั้นจากการอภิปรายเรื่อง CPO ในปัจจุบัน

ในโซลูชันที่มีอยู่เดิม การเชื่อมต่อด้วยแสงส่วนใหญ่ใช้สำหรับการส่งผ่านข้อมูลระหว่างโปรเซสเซอร์และระหว่างแร็ค อย่างไรก็ตาม สถาปัตยกรรมที่เน้น "การเชื่อมต่อด้วยแสง" ที่เสนอมานี้ จะเชื่อมต่อกลุ่มทรัพยากรโปรเซสเซอร์ (กลุ่ม XPU) และกลุ่มทรัพยากรหน่วยความจำโดยตรงผ่านตัวเชื่อมต่อแบบโฟตอนิก

ประโยชน์ในทางปฏิบัติของสถาปัตยกรรมนี้อยู่ที่การ ที่ตัวเร่งความเร็ว AI หลายตัวสามารถใช้หน่วยความจำร่วมกันได้ แทนที่จะให้แต่ละตัวเร่งความเร็วมีหน่วยความจำอิสระของตัวเอง ซึ่งไม่เพียงแต่จะช่วยเพิ่มประสิทธิภาพการใช้หน่วยความจำเท่านั้น แต่ยังทำให้โครงสร้างพื้นฐาน AI มีความยืดหยุ่นในการขยายขนาดมากขึ้นเมื่อขนาดของโมเดลเติบโตขึ้นเรื่อยๆ

คยูซัง ลี กล่าวว่า "การขยายการเชื่อมต่อด้วยแสงไปยังอินเทอร์เฟซหน่วยความจำจะช่วยก้าวข้ามข้อจำกัดทางกายภาพของชิปประมวลผล ขจัดข้อจำกัดด้านความจุของหน่วยความจำและจำนวนการเชื่อมต่อทางไฟฟ้า"

ฮงกล่าวเสริมว่า "ข้อได้เปรียบที่สำคัญที่สุดคือ การปรับปรุงประสิทธิภาพการเคลื่อนย้ายข้อมูล ทำให้ระบบ AI สามารถปรับขนาดได้อย่างยืดหยุ่นมากขึ้น ซึ่งท้ายที่สุดแล้วจะช่วยให้ลูกค้ามีพื้นฐานในการดำเนินงานโครงสร้างพื้นฐาน AI ได้อย่างมีประสิทธิภาพยิ่งขึ้น"

ตั้งแต่ผู้จำหน่าย HBM ไปจนถึงผู้มีส่วนร่วมในสถาปัตยกรรมระบบ

HBM ได้แก้ไขปัญหาแบนด์วิดท์หน่วยความจำภายในบรรจุภัณฑ์ของตัวเร่งความเร็ว AI ซึ่งเป็นข้อได้เปรียบในการแข่งขันที่สำคัญของ SK Hynix ในช่วงหลายปีที่ผ่านมา การเปิดเผยแผนงาน CPO แสดงให้เห็นว่าบริษัทกำลังขยายกลยุทธ์ด้านเทคโนโลยีจากส่วนประกอบเดี่ยวไปสู่สถาปัตยกรรมระดับระบบ

ในการสัมภาษณ์ ฮงได้แสดงให้เห็นถึงการเปลี่ยนแปลงนี้อย่างชัดเจนว่า "บริษัทผู้ผลิตหน่วยความจำกำลังพัฒนาจากการจัดหาส่วนประกอบเพียงชิ้นเดียว ไปสู่การเป็นพันธมิตรที่ช่วยเพิ่มขีดความสามารถในการแข่งขันของระบบโดยรวมของลูกค้าผ่านเทคโนโลยีต่างๆ เช่น CPO"

คยูซัง ลี ยังชี้ให้เห็นว่าความร่วมมือระหว่างสถาบันการศึกษาและภาคอุตสาหกรรมเป็นสิ่งจำเป็นอย่างยิ่งในกระบวนการนี้: "สถาบันการศึกษาโดดเด่นในการผลักดันขีดจำกัดด้านประสิทธิภาพ ในขณะที่ภาคอุตสาหกรรมเข้าใจถึงข้อกำหนดเชิงปฏิบัติของการนำไปใช้งานในวงกว้าง รวมถึงผลผลิตในการผลิต ต้นทุน การระบายความร้อน และห่วงโซ่อุปทาน การผสมผสานมุมมองทั้งสองนี้เข้าด้วยกันเป็นสิ่งสำคัญในการพัฒนากลยุทธ์ที่สามารถนำไปปฏิบัติได้จริง"

เขายังยอมรับว่าการนำไปใช้ในเชิงพาณิชย์ยังคงเผชิญกับความท้าทายอย่างมาก: "ตั้งแต่การบูรณาการอุปกรณ์โฟโตนิกส์พลังงานต่ำไปจนถึงการพัฒนากระบวนการที่สอดคล้องกันและการปรับปรุงความน่าเชื่อถือของระบบ ความท้าทายยังคงมีอยู่มาก กุญแจสำคัญอยู่ที่การออกแบบอุปกรณ์หน่วยความจำร่วมกับตัวควบคุม ส่วนประกอบโฟโตนิกส์ และบรรจุภัณฑ์ในฐานะระบบแบบบูรณาการ"

คำเตือนเกี่ยวกับความเสี่ยงและข้อจำกัดความรับผิดชอบ

การลงทุนมีความเสี่ยง โปรดใช้ความระมัดระวัง บทความนี้ไม่ใช่คำแนะนำการลงทุนส่วนบุคคล และไม่ได้คำนึงถึงวัตถุประสงค์การลงทุน สถานการณ์ทางการเงิน หรือความต้องการเฉพาะของผู้ใช้แต่ละราย ผู้ใช้ควรพิจารณาว่าความคิดเห็น มุมมอง หรือข้อสรุปใด ๆ ในบทความนี้เหมาะสมกับสถานการณ์เฉพาะของตนหรือไม่ การตัดสินใจลงทุนใด ๆ ที่ทำขึ้นโดยอิงจากข้อมูลนี้ ผู้ใช้ต้องรับความเสี่ยงเอง