تحدد سامسونج خارطة طريق ثلاثية المراحل لتقنية HBM: الانتقال نحو تقنية ZHBM ثلاثية الأبعاد الحقيقية، وتكديس ذاكرة الوصول العشوائي الديناميكية (DRAM) مباشرة على شريحة الحوسبة.

تهدف خارطة طريق سامسونج لتطوير ذاكرة HBM، المكونة من ثلاث مراحل، إلى تحقيق بنية "zHBM"، التي تُركّب ذاكرة الوصول العشوائي الديناميكية (DRAM) عموديًا فوق رقائق المعالجة. وتزعم سامسونج أن zHBM توفر انخفاضًا بنسبة 70% في استهلاك الطاقة وزيادة بنسبة 230% في عرض النطاق الترددي مقارنةً بـ HBM4E، مع توفير 100 واط إضافية من الطاقة الحرارية لوحدة معالجة الرسومات (GPU).

في مؤتمر Hot Chips التقني الأخير، قدّم سانغ ووك هان من فريق تصميم ذاكرة الوصول العشوائي الديناميكية (DRAM) في سامسونج عرضًا كشف فيه رسميًا عن خارطة طريق سامسونج المكونة من ثلاث مراحل لتطوير ذاكرة HBM. وتتمثل المرحلة النهائية لهذه الخارطة في بنية جديدة كليًا تُسمى zHBM، والتي تقوم بتكديس ذاكرة DRAM بشكل مباشر وعمودي على رقائق الحوسبة مثل وحدات معالجة الرسومات (GPUs) ووحدات معالجة الموتر (TPUs)، مما يلغي تمامًا الحاجة إلى الطبقة البينية ثنائية الأبعاد ونصف (2.5D).

وفقًا لتقرير صادر عن wccftech في 23 أغسطس، ذكرت سامسونج أنه بالمقارنة مع HBM4E القياسي، فإن حل zHBM يدعي تحقيق انخفاض بنسبة 70٪ في استهلاك الطاقة، وزيادة بنسبة 230٪ في عرض نطاق DRAM، وتوفير 100 واط من الطاقة لكل وحدة DRAM، مع توفير 8.3٪ من مساحة الطاقة الإضافية لوحدة معالجة الرسومات.

ما هو نموذج إدارة الصحة (HBM)، وأين تكمن نقاط الضعف؟

تُعد ذاكرة النطاق الترددي العالي (HBM) أحد أهم مكونات التخزين في أنظمة تدريب واستدلال الذكاء الاصطناعي الحالية. وهي تتكون من نوعين من الرقائق:

شريحة C (الشريحة الأساسية) : تحتوي على خلايا ذاكرة DRAM ويمكن تكديسها عموديًا حتى 16 طبقة.

B-die (Base Die) : يقع في أسفل هيكل المكدس بأكمله، وهو مسؤول عن التعامل مع وظائف التحكم المختلفة في DRAM والتواصل مع رقائق الحوسبة مثل وحدات معالجة الرسومات من خلال PHY (طبقة الواجهة المادية).

يتم توصيل الاثنين عبر TSV (Through-Silicon Via) - وهي قناة موصلة عمودية تخترق الشريحة.

وفقًا لـ Wccftech، فإن عرض النطاق الترددي لكل مجموعة HBM4 يتجاوز حاليًا 3 تيرابايت/ثانية، ويتقدم HBM4E إلى نطاق 4 تيرابايت/ثانية، ويضاعف HBM5 عرض النطاق الترددي لـ HBM4، بسعة تتجاوز 60 جيجابايت.

مع ذلك، يواجه التوسع المستمر في عرض النطاق الترددي قيدين رئيسيين: القيود المادية لعدد وتباعد الوصلات الرأسية عبر السيليكون (TSVs) ، والحد الأقصى لعدد وسرعة منافذ الإدخال/الإخراج لواجهة الطبقة الفيزيائية (PHY) داخل الشريحة الأساسية . في الوقت نفسه، تتقلص الفجوة بين جيل تصنيع الشريحة الأساسية وشريحة الحوسبة (xPU SoC) جيلاً بعد جيل، وهو ما يمثل تحدياً وفرصة سانحة في آن واحد لخارطة طريق سامسونج.

المرحلة الأولى: توفير مساحة لرقائق الحوسبة

الهدف الأساسي للمرحلة الأولى من خارطة طريق سامسونج هو "استعادة" مساحة السيليكون من وحدات المعالجة المركزية (رقائق الحوسبة) .

طبّقت سامسونج تقنيتي D1c و4 نانومتر في تصنيع شريحة HBM4 الأساسية (الشريحة B)، وذلك بهدف رئيسي هو تقليل استهلاك الطاقة وتقليص المساحة الفعّالة. يُمثّل هذا بداية التكامل الحقيقي بين ذاكرة الوصول العشوائي الديناميكية (DRAM) وعمليات المنطق المتقدمة.

تشمل التدابير المحددة ما يلي:

يؤدي استبدال HBM PHY التقليدي بواجهة D2D إلى تقصير طول القناة، مما يحسن كفاءة الطاقة بشكل مباشر، مع توفير مساحة سيليكون قيمة لـ XPU.

من المتوقع أن يؤدي نقل وحدة التحكم في الذاكرة من XPU إلى شريحة cHBM B-die إلى تحرير مساحة تتراوح من 5٪ إلى 10٪ من مساحة XPU، وهو ما يتوافق مع تحسين الأداء بنسبة 10٪ إلى 20٪.

تقديم مخطط إصلاح دقيق يعتمد على ذاكرة الوصول العشوائي الثابتة (إصلاح الخلايا القائم على ذاكرة الوصول العشوائي الثابتة القريبة من MC)، والذي يستخدم المساحة الخاملة على رقاقة B لنشر موارد إصلاح ذاكرة الوصول العشوائي الثابتة.

من الآثار الجانبية لتقليص المساحة مشكلة النقاط الساخنة. ولمعالجة هذه المشكلة، قدمت سامسونج تقنية حجب مسار الحرارة (HPB)، المبنية على حل cHBM4، والتي يمكنها خفض درجات الحرارة القصوى بأكثر من 35% وتغطية 50% من مساحة الطبقة الفيزيائية (PHY).

المرحلة الثانية: تبدأ شريحة B-die في "تنمية" قدرتها الحاسوبية

تحول تركيز المرحلة الثانية من "خلق مساحة" إلى "إضافة ميزات"، وهو ما تعرفه سامسونج بأنه مرحلة توسيع الميزات .

توسيع سعة الذاكرة. مع التوسع الهائل في نطاق سياق نماذج الذكاء الاصطناعي الكبيرة، يتزايد الطلب على ذاكرة التخزين المؤقت للقيم الرئيسية (مساحة الذاكرة المستخدمة لتخزين الحالات الوسيطة أثناء استنتاج النموذج) بشكل كبير. تخطط سامسونج لدمج وحدة تحكم في توسيع الذاكرة ووحدة PHY على مساحة السيليكون غير المستخدمة في الشريحة الأساسية، مما يوسع سعة الذاكرة المتاحة للنظام من خلال حلول LPDDR أو HBM الخارجية.

وحدات المعالجة المتكاملة (PEs). اقترحت سامسونج أيضًا دمج بعض عناصر المعالجة الحاسوبية (عناصر المعالجة) على الشريحة الأساسية، مما يُخفف بعض العمليات الحسابية التي كان من المفترض أن تُجرى على وحدة المعالجة المركزية (xPU) إلى جانب الذاكرة، وبالتالي تقليل متطلبات عرض النطاق الترددي من جهاز إلى جهاز، واستهلاك الطاقة، والعبء الحراري. يُطلق على هذا الشكل اسم AHBM (ذاكرة HBM المتقدمة).

تعزيز الموثوقية وقدرات الاختبار. تشمل المرحلة الثانية أيضًا دمج مستشعرات RAS (الموثوقية، والتوافر، وقابلية الخدمة) المتقدمة ووظائف القياس عن بُعد في الوقت الفعلي، بالإضافة إلى قدرات الاختبار الذاتي على الشريحة (ATIP)، في الشريحة الأساسية لتحسين الإنتاجية وتغطية الاختبار.

المرحلة 3: zHBM - يتم تطبيق DRAM مباشرة على شريحة الحوسبة عن طريق إزالة طبقة الوصلة البينية.

المرحلة الثالثة هي الشكل النهائي لخارطة الطريق بأكملها: zHBM .

تستخدم أنظمة الذكاء الاصطناعي السائدة حاليًا بنية تغليف ثنائية الأبعاد ونصف، حيث يتم وضع وحدة معالجة الرسومات (GPU) وذاكرة الوصول العشوائي عالية التردد (HBM) جنبًا إلى جنب على نفس الطبقة البينية، ونقل البيانات عبر وصلات أفقية. أما نهج zHBM فيعتمد على دمج هذه البنية "رأسيًا" - عن طريق تكديس ذاكرة الوصول العشوائي الديناميكية (DRAM) مباشرةً على شريحة xPU، مما يُشكل تكاملًا رأسيًا ثلاثي الأبعاد حقيقيًا.

تصف سامسونج الميزات الرئيسية لتقنية zHBM بأنها تشمل ما يلي:

الإدخال/الإخراج الموزع : تقليل مسافة نقل البيانات داخل حزمة HBM

بنية ثلاثية الأبعاد : تلغي واجهات ثنائية الأبعاد التقليدية، مما يحسن كفاءة النظام بشكل كبير.

يبلغ استهلاك الطاقة المستهدف للإدخال/الإخراج حوالي 0.5 بيكو جول/بت : يتم تحقيقه عن طريق إزالة الوحدات الزائدة مثل SerDes.

تمت زيادة عرض النطاق الترددي بأكثر من 2.3 مرة، ووصلت المساحة الحرارية للنظام إلى 100 واط.

تضمن حل سامسونج التجريبي تكديس طبقة zHBM رباعية الطبقات فوق وحدة XPU.

ولتحقيق هذه الأهداف، تعمل سامسونج على تطوير تقنيتين رئيسيتين للتغليف: WoW (رقاقة على رقاقة) و HCB (ربط المكعب الهجين) لتحقيق كثافة إدخال/إخراج عالية للغاية وبناء نظام تصميم مشترك موحد لـ SoC-DRAM.

المنطق الأساسي وراء خارطة الطريق

كان الهدف الرئيسي من عرض سامسونج هو إعادة وضع شريحة HBM الأساسية من "محطة نقل بيانات سلبية" إلى "شريك ذكي يتمتع بقدرات حوسبة استباقية".

إن منطق تطور المراحل الثلاث واضح: أولاً، يتم تقليل المساحة وتحرير مساحة xPU من خلال ترقيات العملية (المرحلة الأولى)؛ ثم يتم دمج المزيد من الوظائف وتوسيع السعة وقوة الحوسبة من خلال الاستفادة من المساحة المحررة (المرحلة الثانية)؛ وأخيراً، تتم إعادة بناء بنية النظام بالكامل من خلال التكامل الرأسي ثلاثي الأبعاد، مما يحقق اختراقات في استهلاك الطاقة وعرض النطاق الترددي والإدارة الحرارية في وقت واحد (المرحلة الثالثة).

وفي ملاحظاتها الختامية، صرحت سامسونج قائلة: "من خلال إتقان التغليف المتقدم والتصميم المشترك الموحد لـ SoC-DRAM، سنتغلب على اختناقات استهلاك الطاقة والمساحة والسعة التي تقيد أنظمة الذكاء الاصطناعي، مما يمهد الطريق لكفاءة أعلى وأداء أعلى وقابلية أكبر للتوسع في السنوات القادمة".