ماسك يقترح حلًا جديدًا لأمان الذكاء الاصطناعي: بدلًا من انتظار الحكومات، دعوا المنافسين يختبرون بعضهم البعض

بقلم: لي جيا، وول ستريت جورنال

تنتقل مخاطر أمان الذكاء الاصطناعي من النقاش النظري في المختبرات إلى العالم الحقيقي. ومع تزايد قدرات النماذج، لم يعد الذكاء الاصطناعي قادرًا على توليد النصوص والأكواد فحسب، بل أصبح يمتلك القدرة على تنفيذ المهام بشكل مستقل، واستدعاء الأدوات، بل وحتى شن هجمات إلكترونية.

في قمة All-In (أول إن) التي عُقدت في 15 سبتمبر، طرح ماسك مجموعة من الإجراءات المضادة: جعل شركات الذكاء الاصطناعي الكبرى تختبر نماذج بعضها البعض قبل الإطلاق. فمن وجهة نظره، بدلًا من أن تصمم كل شركة اختباراتها وتقيّم النتائج بنفسها، من الأفضل أن يتولى المنافسون دور "واضعي الأسئلة ومصححيها"، للبحث عن الثغرات الأمنية المحتملة من زوايا مختلفة.

في الآونة الأخيرة، أصبحت مخاطر أمان الذكاء الاصطناعي محط اهتمام واسع. وكان ماسك قد صرّح سابقًا على وسائل التواصل الاجتماعي بأن "داريو أمودي محق"، في إشارة إلى تحذير أمودي، الرئيس التنفيذي لشركة Anthropic، بشأن مخاطر الذكاء الاصطناعي. وأوضح في هذه المقابلة أنه لا يتفق مع الخطة التنظيمية المحددة التي اقترحها أمودي، بل يتفق مع تقييمه لخطورة مخاطر الذكاء الاصطناعي: "خطر الذكاء الاصطناعي مرتفع جدًا الآن... ومع استمرار تطور نماذج الذكاء الاصطناعي، قد تتزايد المخاطر بشكل أُسّي."

وأشار ماسك أيضًا إلى أن هذا القلق ليس حكمًا فرديًا من أمودي وحده. "كثيرون في Anthropic وOpenAI يخبرونك أن نماذجهم خطيرة جدًا، وأعتقد أن علينا أن نصدقهم." فسلسلة الحوادث الأمنية الأخيرة جعلت هذا التحذير لم يعد مجرد نقاش نظري حول المخاطر.

وفيما يلي أبرز النقاط التي جمعتها وول ستريت جورنال:

• مخاطر أمان الذكاء الاصطناعي تنتقل من النظرية إلى الواقع: أظهرت وكلاء الذكاء الاصطناعي قدرة على الهجوم المستقل، والحصول على الصلاحيات، وتجنب الكشف، مما يوسّع حدود المخاطر.
• ماسك يتفق مع تحذير أمودي بشأن مخاطر الذكاء الاصطناعي: مع تزايد قدرات النماذج، قد تتزايد المخاطر المحتملة للذكاء الاصطناعي بشكل أُسّي.
• دعوا المنافسين "يبحثون عن العيوب": يقترح ماسك أن تفتح شركات الذكاء الاصطناعي واجهات برمجة التطبيقات (API) قبل إطلاق النماذج لتتيح لشركات أخرى إجراء اختبارات أمان مستقلة، لتجنب "تصحيح الواجب ذاتيًا".
• بناء خط دفاع ذاتي للصناعة أولًا: لا داعي لانتظار الحكومات لإصدار لوائح جديدة، إذ يمكن لشركات الذكاء الاصطناعي الكبرى تعزيز الأمان من خلال مراجعة الأقران، وتدقيق السجلات، وأدوات اختبار مفتوحة المصدر.

وكلاء الذكاء الاصطناعي يتجنبون الكشف بشكل استباقي، والمخاطر الأمنية تتجسد

يرى ماسك أن حادثة هجوم وكلاء الذكاء الاصطناعي على Hugging Face تستحق اهتمامًا خاصًا، ليس فقط بسبب الاختراق الشبكي بحد ذاته، بل لأن الذكاء الاصطناعي أظهر قدرة على التهرب الذاتي أثناء الهجوم.

وبحسب ماسك، هاجمت مجموعة من وكلاء الذكاء الاصطناعي منصة Hugging Face لمدة أسبوع كامل، حتى حصلت على صلاحيات إدارية لخوادم OpenAI، ولم تكتشف OpenAI ذلك إلا بعد أسبوع. كما ذكر أن Anthropic كشفت عن عدة حوادث أمنية.

والأكثر إثارة للقلق أن "مسارات التفكير" لوكلاء الذكاء الاصطناعي المعنيين أظهرت أنهم خططوا بنشاط لكيفية تجنب اكتشافهم من قبل البشر. وقال ماسك بصراحة: "يبدو أن أي نموذج ذكي بما يكفي سيحاول الهروب من قيوده."

ومن وجهة نظره، إذا سيطر الذكاء الاصطناعي بشكل أكبر على البنية التحتية الحيوية أو حتى الأنظمة العسكرية، فستتضخم المخاطر أكثر. وحتى لو كانت هذه الأنظمة معزولة فعليًا عن الشبكة، فإن عمليات مثل تحديثات البرامج قد تظل نقاط اختراق محتملة.

بدلًا من تصحيح الواجب ذاتيًا، دعوا المنافسين "يبحثون عن العيوب"

لمواجهة هذه المخاطر، فإن اقتراح ماسك الأساسي ليس معقدًا: قبل الإطلاق الرسمي للنماذج الجديدة، يجب على شركات الذكاء الاصطناعي فتح واجهات برمجة التطبيقات (API) للمنافسين، مما يتيح للشركات الأخرى استخدام أدوات اختبار الأمان الخاصة بها لاختبار النماذج.

فمن وجهة نظره، إذا صمم مطور النموذج معايير الاختبار بنفسه، فمن السهل الوقوع في فخ "تصحيح الواجب ذاتيًا". "لا يمكنك تصحيح واجبك بنفسك. ستفوت دائمًا بعض الأشياء." وقال ماسك إنه إذا استخدمت شركات مختلفة أدوات اختبار مختلفة، وفحصت النماذج من زوايا مختلفة، فسيكون من الأسهل اكتشاف المشكلات التي قد يغفل عنها المطور نفسه.

وأعرب عن قلقه بشكل خاص من أن تقييمات الذكاء الاصطناعي الحالية قد تعاني من "الإفراط في المطابقة". فإذا استمر تحسين النموذج لمعايير محددة، فقد يتعلم في النهاية فقط كيفية اجتياز الاختبارات، بدلًا من أن يصبح أكثر أمانًا حقًا. ويمكن أن يقلل إشراك فرق متعددة في الاختبار من هذه المخاطر.

وشبّه ماسك هذه الآلية بطلب شخص آخر لمراجعة مسودة: يصعب على المؤلف اكتشاف أخطائه، بينما يسهل على المختبرين الخارجيين العثور على المشكلات من زوايا مختلفة. "ستصبح تدريجيًا أعمى عن أخطائك."

وفيما يتعلق بمخاوف الشركات من أن عملية الاختبار قد تؤدي إلى تسرب تقني، يرى ماسك أنه يمكن ضبط ذلك من خلال تدقيق السجلات. فإذا حاول المختبر استخلاص النموذج أو سرقة الملكية الفكرية، فمن المفترض أن تترك أفعاله أثرًا. كما اقترح جعل أدوات اختبار الأمان مفتوحة المصدر لإشراك المزيد من الشركات.

قبل صدور اللوائح الحكومية، يجب على صناعة الذكاء الاصطناعي بناء "خط دفاع ذاتي" أولًا

الأهم بالنسبة لماسك هو أن هذه الآلية لا تحتاج إلى انتظار صدور قواعد تنظيمية جديدة، بل يمكن لشركات الذكاء الاصطناعي تطبيقها بنفسها.

وقال بوضوح: "لسنا بحاجة إلى عقد اجتماع للأمم المتحدة لإنجاز هذا الأمر. يمكننا البدء الآن." فمن وجهة نظره، مقارنة بإنشاء هيئة تنظيمية دولية ضخمة، من الأسهل تطبيق آلية مراجعة الأقران بسرعة بين شركات الذكاء الاصطناعي الكبرى.

وضرب مثالًا بنظام تصنيف MPAA في صناعة السينما الأمريكية، قائلًا إن صناعة السينما عندما واجهت ضغوطًا رقابية حكومية، اختارت في النهاية بناء آلية تنظيم ذاتي، من خلال نظام تصنيف المحتوى الخاص بها لتقليل الحاجة إلى التدخل التنظيمي.

وتواجه صناعة الذكاء الاصطناعي خيارًا مشابهًا. فإذا تمكنت شركات الذكاء الاصطناعي الكبرى من اختبار نماذج بعضها البعض قبل الإطلاق واكتشاف الأخطاء، فمن الممكن بناء خط دفاع أمني ذاتي خارج نطاق التنظيم الحكومي. ويرى ماسك أن هذا أيضًا أحد أكثر إجراءات الأمان مباشرةً وأسرعها قابلية للتنفيذ حاليًا.

فيما يلي النص الحرفي للمقابلة، مع حذف بعض الأجزاء:

المضيف:
ما الذي حدث بالضبط خلال الـ72 ساعة الماضية؟

ماسك:
حدثت أشياء كثيرة هذا الأسبوع بالفعل. أصبح من الواضح الآن أن الذكاء الاصطناعي قد يكون خطيرًا جدًا. أنصح الجميع بالاطلاع على تفاصيل حادثة Hugging Face، فالوضع خطير للغاية.

يمكنك أن ترى أن مجموعة من وكلاء الذكاء الاصطناعي المتحمسين للغاية أحدثت فوضى في Hugging Face لمدة أسبوع كامل، حتى حصلت على صلاحيات إدارية لخوادم OpenAI. من يدري ماذا فعلت في الواقع، وربما فعلت أكثر من ذلك، بينما ظلت OpenAI غافلة تمامًا لمدة أسبوع كامل. كما أبلغت Anthropic عن بعض الحوادث الأمنية.

لذا، يبدو أن أي نموذج ذكي بما يكفي سيحاول الهروب من قيوده.

أعتقد أن أحد الأشياء التي يجب القيام بها، إن لم يكن فورًا، ففي أقرب وقت ممكن، هو جعل المنافسين الرئيسيين في مجال الذكاء الاصطناعي يختبرون نماذج بعضهم البعض. أي أن تستخدم أدوات اختبار الأمان الخاصة بكل شركة لاختبار نماذج الشركات الأخرى. بدلًا من تصحيح واجبك بنفسك، دع على الأقل المنافسين يصححون واجبك، ويطلقون إنذارًا عند اكتشاف المشكلات.

أعتقد أن هذا النموذج يعمل بشكل جيد في صناعة السينما وصناعة ألعاب الفيديو ومجالات أخرى، ويمكن تطبيقه فورًا. بالطبع، مع مرور الوقت، قد تكون هناك حاجة إلى مزيد من التنظيم، وقد ينشئ الكونغرس نوعًا من الهيئات التنظيمية في المستقبل، لكن في الوقت الحالي، الطريقة الأكثر مباشرة هي جعل شركات الذكاء الاصطناعي الرائدة تختبر بعضها البعض قبل إطلاق النماذج.

المضيف:
لكن من الناحية العملية، ألا تقلق من أن يؤدي ذلك إلى قيام الشركات بجمع المعلومات من بعضها البعض من خلال عملية الاختبار، بل وحتى سرقة ابتكارات بعضها البعض؟

ماسك:
أعتقد أنه إذا استُخدمت أدوات الاختبار، فستترك جميع العمليات أثرًا. إذا حاول شخص ما استخلاص النموذج أو سرقة الملكية الفكرية، فسيكون من السهل اكتشاف ذلك من السجلات.

المضيف:
فهمت. إن فهم ما يفعله النموذج فعليًا لم يُصمم في النظام منذ البداية. لماذا لا نبني القدرة على مراقبة سلوك النموذج منذ البداية؟ هل نتقدم بسرعة كبيرة عند تصميم هذه النماذج؟

ماسك:
أعتقد أن المشكلة هي أنك لا تستطيع تصحيح واجبك بنفسك. ستفوت دائمًا بعض الأشياء.

إذا جمعت اختبارات جميع المنافسين، واستخدمت أنواعًا مختلفة من النماذج، فلن تكون أنت من يضع الأسئلة ويصححها، بل سيصححها الآخرون. لهذا السبب لا يمكنك تصحيح واجبك بنفسك.

المضيف:
بهذه الطريقة، يمكن أيضًا الحكم على ما إذا كانت الشركات المختلفة تبالغ في قدراتها، أو تستخدم أساليب مختلفة. كما يمكن تحقيق نوع من التوازن بين الشركات الأكثر توجهاً هندسيًا والشركات الأكثر توجهاً بحثيًا.

ماسك:
نعم.

المضيف:
قلت سابقًا إن داريو أمودي محق. هل كنت تقصد وصفه للمخاطر المحتملة للذكاء الاصطناعي، أم تقييمه للخطة التنظيمية؟

ماسك:
ربما قلت أكثر مما ينبغي في ذلك الوقت. حاولت لاحقًا التوضيح على X، لكن الاهتمام بالمحتوى اللاحق كان أقل بكثير.

ما قصدته بـ"إنه محق" هو أن خطر الذكاء الاصطناعي مرتفع جدًا الآن. نحتاج إلى تحسين أمان الذكاء الاصطناعي، وإلا فمع استمرار تطور نماذج الذكاء الاصطناعي، قد تتزايد المخاطر بشكل أُسّي.

هذه ليست وجهة نظر أمودي وحده. سمعت تصريحات مماثلة من كثيرين في Anthropic، وقد تحدثوا عنها علنًا على X أيضًا. كثيرون في Anthropic وOpenAI أخبروك أن نماذجهم خطيرة جدًا، وأعتقد أن علينا أن نصدقهم.

المضيف:
يبدو هذا أيضًا كلعبة معقدة للغاية: من ناحية يقولون إن هناك احتمال 10% أن يدمر الذكاء الاصطناعي البشرية، ومن ناحية أخرى يشجعون المستثمرين على شراء المزيد من الأسهم في الاكتتاب العام.

لكن دعنا نتحدث عن المخاطر بشكل ملموس. من الواضح أن الهجمات الإلكترونية والاختراقات تشكل خطرًا، فهذه الأدوات قوية جدًا في هذا المجال. لكن من "قدرة الذكاء الاصطناعي على شن هجمات إلكترونية" إلى "موت جميع البشر"، هناك عدة خطوات بينهما. كيف ننتقل من الأولى إلى الثانية؟

ماسك:
إذا تمكن الذكاء الاصطناعي من السيطرة على الأنظمة العسكرية، ثم أطلق نوعًا من الأسلحة، فسيكون ذلك سيئًا للغاية بالطبع.

المضيف:
لكن هذه الأنظمة معزولة فعليًا وغير متصلة بالإنترنت.

ماسك:
هذا ما يقولونه. لكنني أشعر دائمًا أن هذه الأنظمة تتلقى تحديثات برمجية من حين لآخر.

المضيف:
حسنًا، لا يمكن استبعاد ذلك.

المضيف:
إيلون، جوين حاضرة هنا اليوم أيضًا. أعتقد أنك رأيتها. لقد أجرينا للتو تقييمًا شاملًا لك بزاوية 360 درجة، ولدى جوين بعض الملاحظات.

ماسك:
آمل أن أحصل على 3 نقاط على الأقل.

جوين:
في SpaceX، 3 نقاط تعتبر جيدة، لكنها ليست ممتازة؛ 4 نقاط تعتبر جيدة. أنت تقريبًا بين الاثنين. أولًا، يجب أن نتحدث عن الالتزام بالمواعيد. في بعض الأحيان يمكنك بذل جهد أكبر والحضور في الوقت المحدد للاجتماعات. في العام المقبل، سنواصل مساعدتك على تحسين هذا الأمر.

في الواقع، أعتقد أنه يحتاج إلى قضاء المزيد من الوقت في ممفيس.

المضيف:
أنت بالفعل في ممفيس الآن. عليك العمل هناك ونشر وحدات معالجة الرسومات.

ماسك:
هذا هو "قصري" في ممفيس، مقطورة تخييم من نوع Airstream.

المضيف:
بالمناسبة، هذا شيء يفعله إيلون ولا يصدق الكثيرون أنه يفعله. إنه ينام على أرضية المصنع. إنه الآن في ممفيس، يساعد في بناء المنشأة ونشر وحدات معالجة الرسومات.

إيلون، لماذا استطاعت جوين العمل معك لفترة طويلة وبنجاح كبير؟

ماسك:
لأنها ممتازة. إنها شخصية استثنائية، تتمتع بذكاء عالٍ وذكاء عاطفي عالٍ جدًا. أعتقد أنك ستلاحظ ذلك من أول مرة تقابلها.

المضيف:
خلال تعاونكما، هل فعلت شيئًا مثيرًا للإعجاب بشكل خاص؟ هل كانت هناك مرة أنقذت فيها الموقف، أو كان أداؤها استثنائيًا؟

ماسك:
أعتقد أن هذا هو العمل اليومي المعتاد. بصراحة، هذا يوم عادي.

المضيف:
يجب أن أجري المزيد من هذه المقابلات في المستقبل.

ماسك:
الآن لدى SpaceX دائمًا نوع من الأزمات في الأساس. على الأقل صواريخ فالكون تعمل بشكل جيد هذه الفترة. لا أريد أن أتحدث مبكرًا جدًا، لكن صواريخ فالكون يمكنها الآن إيصال الحمولات إلى المدار، ولم تنفجر منذ فترة طويلة. هذا جيد جدًا. لكن كانت هناك فترة كانت تنفجر فيها كثيرًا، أو لا تستطيع الإطلاق أصلًا.

لذا، كان علينا أن نجعل الشركة تتجاوز تلك الفترات الصعبة، ونجعل الصواريخ أفضل ولا تنفجر. وكذلك الأقمار الصناعية. ثم احتجنا أيضًا إلى عملاء لشراء خدمات الإطلاق وخدمات الإنترنت عبر الأقمار الصناعية. لذا، هناك الكثير من الأمور.

المضيف:
مع تزايد نجاحك على مر السنين، يصبح الحصول على ردود فعل صادقة حقًا أكثر صعوبة. فوجودك في هذا الموقع يحمل هذا الخطر.

ما أفهمه هو أن جوين صادقة جدًا معك، ويمكنها إخبارك مباشرة بالوضع الحقيقي للشركة. وهذا جزء مهم جدًا من علاقة العمل بينكما.

جوين:
بالطبع لا أريد أن أكذب عليه.

المضيف:
لكن ما أعنيه هو، بشكل عام، قد يشعر الناس في شركتك بالرهبة لأنك شخصية مؤثرة جدًا. أنت الآن شخص مهم جدًا، والمواعيد النهائية التي تحددها ضيقة جدًا. كيف تضمن أن يستمر الجميع في إخبارك بصدق بالمشكلات التي تواجهها الشركة؟

جوين:
خاصة في صناعة الصواريخ، إذا حدثت مشكلة، فستكتشفها في النهاية. كلما أثيرت المشكلة مبكرًا، كان حلها أسهل. لا تدع الأخبار السيئة تتراكم، يجب أن تواجهها مباشرة.

ماسك:
صحيح. الفيزياء حكم صارم للغاية. لا يمكنك خداع الفيزياء.

إذا حدثت مشكلة، سينفجر الصاروخ، أو لن يصل إلى المدار. لا يمكنك أن تقول "إيلون، أنت تقوم بعمل رائع" بينما تستمر الصواريخ في الانفجار. الحقيقة هي الحقيقة.

يجب أن يصل الصاروخ إلى المدار، ويجب أن تعمل الأقمار الصناعية بشكل صحيح، ويجب أن يعمل اتصال Starlink بشكل صحيح؛ وإلا ستحدث أشياء سيئة. هذه هي الفيزياء. الفيزياء قانون، وكل شيء آخر مجرد اقتراح. رأيت أشخاصًا يخالفون القوانين التي وضعها البشر، لكنني لم أرَ أبدًا شخصًا يخالف قوانين الفيزياء. الصواريخ تحكمها الفيزياء.

المضيف:
أريد أيضًا أن أسأل سؤالًا عن SpaceX، خاصة عن Starship. يبدو أنكم قريبون جدًا الآن. ما هو الوضع الحالي؟

ماسك:
ستقوم Starship برحلتها الرابعة عشرة قريبًا. ستكون هذه آخر رحلة قبل محاولتنا التقاط المركبة الفضائية. إذا سارت الرحلة الرابعة عشرة بشكل جيد، فسنحاول التقاط المركبة الفضائية في الرحلة الخامسة عشرة. ثم في نهاية هذا العام، أو على الأرجح في بداية العام المقبل، سنطلق المركبة الفضائية والمعزز مرة أخرى.

لقد نجحنا بالفعل في إعادة تحليق المعزز، لكننا لم نلتقط المركبة الفضائية بعد باستخدام الأذرع الميكانيكية للبرج، ولم نعد تحليق المركبة الفضائية بعد. بمجرد أن نتمكن من إعادة تحليق المركبة الفضائية، سنكون قد حصلنا على أول صاروخ مداري قابل لإعادة الاستخدام بالكامل. كان المكوك الفضائي قابلًا لإعادة الاستخدام إلى حد ما، لكن حتى تلك الأجزاء القابلة لإعادة الاستخدام كانت تكلفتها عالية جدًا لدرجة أن تكلفة كل إطلاق كانت أعلى من الصواريخ التي تستخدم لمرة واحدة.

صاروخ فالكون 9 قابل لإعادة الاستخدام في معظمه، لكننا نفقد المرحلة العلوية في كل مرة، وتكلفتها تعادل تقريبًا طائرة نفاثة متوسطة الحجم. هذا يعني أننا نتخلص من طائرة نفاثة متوسطة الحجم في كل إطلاق، مما يضع حدًا أدنى واضحًا لتكلفة كل رحلة.

بالإضافة إلى ذلك، يهبط معزز فالكون 9 في البحر، ويستغرق عدة أيام لإعادته؛ وتهبط أغطية الحمولة في أماكن أبعد، وتستغرق أيضًا عدة أيام لإعادتها، وتحتاج على الأقل إلى نوع من التجديد. بالمقارنة، سيهبط معزز Starship مباشرة على منصة الإطلاق، وستهبط المركبة الفضائية أيضًا على منصة الإطلاق. لذا فإن تصميمها ليس فقط قابلًا لإعادة الاستخدام بالكامل، بل أيضًا لإعادة الاستخدام السريع مثل الطائرات. هذا إنجاز مهم جدًا، وأحد الإنجازات الرئيسية اللازمة لتوسيع الحياة البشرية خارج الأرض.

المضيف:
إذا حاولتم التقاط المركبة الفضائية بالبرج لأول مرة، ما هو احتمال النجاح في رأيك؟

ماسك:
أقول 50% إلى 60% على الأقل. في الرحلة الأخيرة، إذا كان هناك برج في ذلك الوقت، فقد أجرينا بالفعل محاكاة هبوط كما لو كانت المركبة الفضائية ستلتقط بواسطة البرج. كان الموقع على بعد حوالي 1000 ميل قبالة الساحل الشمالي الغربي لأستراليا. إذا كان هناك برج بالفعل في ذلك الوقت، لكان بإمكانه التقاط المركبة الفضائية في الرحلة الأخيرة.

لذا، نحتاج إلى القيام برحلة أخرى للتأكد من أن كل شيء على ما يرام. أكبر مخاوفنا هو أنه إذا تفككت Starship فوق اليابسة، فقد تسقط الشظايا على الناس، وسيكون ذلك سيئًا للغاية. لذلك، يجب أن نضمن عودة Starship سليمة وهبوطها على برج الإطلاق. لهذا السبب نحن حذرون جدًا الآن.

لكنني واثق جدًا من أن تصميمها نفسه يتمتع بقابلية إعادة الاستخدام الكاملة. لا أريد تقديم أي توقعات هنا، لكنني أعتقد أن هناك احتمالًا كبيرًا لتحقيق إعادة الاستخدام الكاملة وإعادة الطيران السريع قبل عام 2027.

المضيف:
جوين، أريد أن أسمع كيف بدأت Terafab في الأصل. ما هي الحاجة التي جعلتك تشعرين بأنه يجب عليكم القيام بذلك بأنفسكم بدلًا من الاستمرار في الاعتماد على نظام التوريد الحالي؟

جوين:
أشعر أن هذا حقًا جاء نوعًا ما كإلهام من حلم.

ماسك:
إذا لم تتمكن الرقائق من الاستمرار في التوريد، ولم يكن لدينا مصدر آخر للرقائق، فسيجعل ذلك الأمور صعبة للغاية. هذا سبب مهم لوجود Terafab.

على المدى الطويل، هناك أيضًا مشكلة التوسع. إذا كنت تريد حقًا توسيع نطاق الذكاء الاصطناعي، سواء على جانب الخوادم في مراكز البيانات، أو في الحوسبة الطرفية، والروبوتات البشرية، والسيارات، فإن طاقة مسبك الرقائق الحالية ستكون غير كافية في النهاية.

الآن، جميع مسابك الرقائق تعمل بكامل طاقتها تقريبًا. لذا، نحتاج إلى ضمان إمدادات الرقائق في المستقبل. يواجه إنتاج الرقائق نفسه أيضًا تحديات التوسع. تحتاج إلى رقائق منطقية، ورقائق ذاكرة، وتغليف، ونظام توريد كامل، لتتمكن من الاستمرار في التوسع.

لذا، الخيار بسيط جدًا: إما بناء Terafab، أو لن تتمكن من الاستمرار في التوسع.

المضيف:
إلى أي مرحلة وصلتم في تصميم المنشأة؟ هل هو محدد تمامًا، أم لا يزال مجرد خطة تقريبية؟

ماسك:
نحن حاليًا نبني خط إنتاج للبحث والتطوير أولًا. لذا فهذه في الأساس عملية "زحف، مشي، جري". نحن نبني مصنع رقائق للبحث والتطوير في أوستن، وهو مشروع تعاوني بين Tesla وSpaceX، يقع في حرم Giga Texas في أوستن.

إنه مصنع رقائق بحث وتطوير كبير جدًا. تم طلب المعدات بالفعل. قد ننتج شيئًا مفيدًا بحلول نهاية العام المقبل، لكنه لن يصل إلى مستوى الإنتاج الضخم بعد. كما قالت جوين، نحتاج إلى الزحف أولًا، ثم المشي، وأخيرًا الجري. نحتاج إلى معرفة كيفية عمل هذه الآلات فعليًا، لأننا لم نفعل شيئًا كهذا من قبل.

المضيف:
أرى أنكم توظفون أيضًا مواهب في مجال الطباعة الحجرية. حاليًا تعتمد العديد من العمليات على ASML، لكنكم قد ترغبون أيضًا في تنويع الموردين، أو حتى التكامل الرأسي.

ماسك:
نعم. إنها بالفعل عملية "زحف، مشي، جري" الآن. الخطوة الأولى هي معرفة ما إذا كان بإمكاننا إنتاج شيء ما بالفعل، وهذا هو "الزحف". ثم نحاول إنتاج رقائق مفيدة بكميات كبيرة، وهذا هو "المشي". وأخيرًا، "الجري" يعني تحقيق الإنتاج الضخم على نطاق واسع. من الصعب تحديد المدة التي ستستغرقها كل مرحلة، لكنني أعتقد أنه على الأقل بحلول نهاية العام المقبل، يمكننا إكمال مرحلة "الزحف". لقد بدأنا بالفعل في التغليف.

المضيف:
التغليف مهم جدًا في الواقع، لأنه لا توجد تقريبًا طاقة تغليف الآن.

ماسك:
نعم. حتى لو أنتجت الرقائق، فقد تبقى هناك لفترة طويلة في انتظار التغليف. لذا فهذه نقطة انطلاق جيدة.

المضيف:
يجب أن أسأل سؤالًا عن Tesla. ما رأيناه في 1 أكتوبر بدا وكأنه سفينة فضاء، وبدا أيضًا وكأنه صاروخ. من المفترض أن يكون سيارة، لكن الجزء الخلفي فقط هو الذي ظهر، وبدا有点像 "الطائر الأسود".

إذا كنت ستنشئ شيئًا يمكنه الطيران في الهواء والقيادة على الأرض، فكيف ستفعل ذلك نظريًا؟

ماسك:
لن أحرق المفاجأة. انتظر حتى 1 أكتوبر.

المضيف:
إذن سنراه في 1 أكتوبر؟

ماسك:
نعم.

المضيف:
يجب أن أكون صادقًا، بعد أن أراني إيلون ذلك، صُدمت تمامًا. لم أرَ شيئًا كهذا من قبل.

المضيف:
ما سيعرضه في 1 أكتوبر، دون مبالغة، سيجعل الكثيرين عاجزين عن الكلام. لا يمكنني الكشف عن المزيد، إنه أمر لا يصدق حقًا.

ماسك:
نحتاج في الواقع إلى جمهور حاضر لإثبات أن هذا الشيء ليس مولّدًا بالذكاء الاصطناعي.

المضيف:
عندما أراني ذلك، قلت: "هذه محاكاة رائعة." قال: "هذه ليست محاكاة." قلت: "هذا مزيف، لا بد أنه مزيف."

المضيف:
إيلون، لماذا لا تزال Tesla وSpaceX شركتين منفصلتين؟

ماسك:
هذا سؤال جيد.

المضيف:
بالنظر إلى التعاون الواسع بينهما، والروابط على مستويات عديدة، وحتى التداخل في فرق الإدارة، لماذا الإبقاء على الاستقلالية؟

ماسك:
هذا بالفعل موضوع يستحق النقاش.

المضيف:
لقد أكدت على أن الذكاء الاصطناعي يجب أن يُدرَّب على السعي وراء الحقيقة قدر الإمكان لتحقيق أفضل النتائج. ومع ذلك، فإن حادثة Hugging Face تجعلني أشعر أن أحد أكثر الأمور إثارة للقلق هو أن هذه الأنظمة تبدو وكأنها تخدع البشر.

ماسك:
نعم. أنماط تفكيرها تُظهر أنها تخطط لكيفية تجنب الكشف، وكيفية منع البشر من اكتشاف أنها تغش. أعتقد أن هذا قد يكون الجزء الأكثر إزعاجًا في الحادثة بأكملها.

المضيف:
هل هناك طريقة لتدريب الذكاء الاصطناعي على أن يكون صادقًا، وألا يخفي نواياه أو سلوكه، وألا يخفي هذه الأشياء عن المستخدمين؟

ماسك:
أفضل طريقة يمكنني التفكير فيها هي أن تمتلك جميع شركات الذكاء الاصطناعي مجموعة من أدوات الاختبار، أي سلسلة من الاختبارات التي يمكن تطبيقها على أي نموذج، لتحديد ما إذا كان سيصنع أسلحة بيولوجية أو نووية، أو ما إذا كان سيخدع عمدًا. ثم تجعل كل شركة تستخدم أدوات اختبار الشركات الأخرى لاختبار نماذج بعضها البعض. أعتقد أن هذا هو أفضل شيء يمكننا القيام به لضمان السلامة.

دع أذكى البشر يبذلون قصارى جهدهم لتحديد ما إذا كان النموذج سيصبح جهة خبيثة. أعتقد أن هذا يجب أن يبدأ في أقرب وقت ممكن.

المضيف:
هل ستدعم مختبرات الذكاء الاصطناعي الأخرى هذا الاقتراح؟

ماسك:
لم أسأل الجميع بعد، لكنني أعتقد أنه من الصعب رفض هذا الأمر.

المضيف:
على وجه التحديد، كيف يجب إجراء الاختبار مسبقًا؟

ماسك:
في الأساس، هو توفير وصول إلى واجهة برمجة التطبيقات (API) قبل الإطلاق الرسمي للنموذج. إذا اكتشفت شركات أخرى مشكلة في الذكاء الاصطناعي، فيمكن لشركة تطوير النموذج محاولة حل هذه المشكلات. إذا لم تُحل المشكلة، فيمكن للمنافسين أن يعلنوا علنًا أنهم يعتبرون النموذج غير آمن. إذا كان المنافسون قد حذروا بوضوح من أن النموذج يعاني من مشكلة أمنية، ثم تسبب النموذج لاحقًا في عواقب وخيمة، فسيكون من الصعب على تلك الشركة مواجهة هذا الموقف. وقد تكون المسؤولية القانونية كبيرة جدًا أيضًا.

المضيف:
يمكن جعل أدوات اختبار الأمان هذه مفتوحة المصدر بالكامل ليستخدمها الجميع. بهذه الطريقة، سيكون لدى الشركات دافع قوي للاستثمار في أمان الذكاء الاصطناعي لحماية نفسها، لأنها تستطيع اختبار الآخرين، واستخدام نتائج الاختبار لإثبات أن نماذجها أكثر أمانًا.

المسؤولية عن المنتج أمر بالغ الأهمية. نشرت لينا خان مؤخرًا منشورًا قالت فيه إن القول بأنه "لا توجد قواعد تنظيمية للذكاء الاصطناعي" غير دقيق. في الواقع، تنطبق قوانين المسؤولية عن المنتج الحالية أيضًا على الذكاء الاصطناعي. إذا أصدرت شركة ذكاء اصطناعي منتجًا غير آمن، فقد تواجه دعاوى مدنية ضخمة، بل وحتى اتهامات جنائية. لذا، فإن الذكاء الاصطناعي ليس في فراغ تنظيمي تمامًا. إذا أجرت عدة شركات هذا النوع من مراجعة الأقران، وتجاهلت إحدى الشركات ملاحظات الآخرين واختارت إطلاق النموذج، فقد يكون هذا الوضع دليلًا قويًا جدًا في الدعاوى القضائية.

ماسك:
نعم. يمكن أن يكون تقريبًا دليلًا مباشرًا على إهمال تلك الشركة. إذا كنت تعلم أن المنتج به مشكلة، ومع ذلك طرحته في السوق، فلن تنظر هيئة المحلفين إلى ذلك بعين الرضا.

المضيف:
إذن، إذا صممت OpenAI مجموعة تعليمات أفضل في اختبار اختراق Hugging Face، وأشركت المزيد من الأشخاص في عملية الاختبار، فهل تعتقد أن هذه الحادثة كانت ستحدث؟

ماسك:
ليس بالضرورة. قد لا تكون المشكلة في إشراك المزيد من الأشخاص، بل في تصميم دالة المكافأة. يجب عليك فحص دالة المكافأة، ثم تسأل: هل أنجز هذا النموذج بالفعل ما طُلب منه القيام به؟

المضيف:
لقد استخدموا آلاف الوكلاء لمحاولة مهاجمة النظام. إذا تم نشر 5000 وكيل آخر في الوقت نفسه للدفاع عن هذه الأنظمة، وعرض النتائج علنًا لإثبات أن هذه التقنيات يمكن أن تعزز الأمان، مع السماح للبشر بالتدخل في اللحظات الحرجة، أعتقد أن ذلك سيكون أفضل. لكن في رأيي، بدا ذلك الاختبار متهورًا بعض الشيء، وطريقة نشره كانت متهورة أيضًا بعض الشيء. ما رأيك؟

ماسك:
كان متهورًا بعض الشيء بالفعل. جزء من المشكلة هو أن شركتي الذكاء الاصطناعي الرائدتين متقاربتان جدًا في القوة. قدرات النموذجين متشابهة جدًا أيضًا. لذا، من الصعب على أي شركة أن تبطئ طواعية، لأن القيام بذلك قد يعني التخلي عن الصدارة للطرف الآخر.

بشكل عام، أعتقد أن Anthropic أولت اهتمامًا أكبر للسلامة، لكن حتى Anthropic تعترف بأنها قلقة بشأن نماذجها. كثيرون في Anthropic أعربوا علنًا عن قلقهم، ويقولون بشكل أساسي إن نماذجهم الخاصة تخيفهم، لأن النماذج تزداد ذكاءً.

لذا لا يوجد حل مثالي هنا. لكن إذا لم تختبر OpenAI نماذجها باستخدام أدوات الاختبار الخاصة بها فقط، بل جعلت Anthropic تختبر نماذج OpenAI، وجعلت SpaceX تستخدم أدوات الاختبار الخاصة بها للاختبار، وأشركت Google وMeta وشركات أخرى، فإن احتمال اكتشاف المشكلات سيزداد بشكل كبير.

لأن هذه النماذج نفسها مختلفة أيضًا، وستختبر الفرق المختلفة النماذج من زوايا مختلفة. هذا مشابه لسبب مطالبة المؤلفين الآخرين بمراجعة مسوداتهم، لأنه في بعض الأحيان يصعب عليك اكتشاف أخطائك. ستصبح تدريجيًا أعمى عن أخطائك.

إذا كان هناك ثمانية فرق مختلفة تمامًا، تختبر من زوايا مختلفة تمامًا، فيمكن أيضًا تقليل خطر الإفراط في المطابقة بشكل كبير. تعاني العديد من تقييمات الذكاء الاصطناعي الحالية من الإفراط الشديد في المطابقة. يتم تحسين النماذج لهذه التقييمات، ثم يقول الجميع: "هذا نموذج رائع."

لكن هل هو حقًا بهذه الجودة؟ أعتقد أن هذا أيضًا سبب إعجابي الشديد بهذا الاقتراح. أفضل هذه الطريقة على إنشاء منظمة تنظيمية دولية ضخمة. لسنا بحاجة إلى عقد اجتماع للأمم المتحدة لإنجاز هذا الأمر. يمكننا البدء الآن.

المضيف:
بالطبع، يمكن زيادة شدة التنظيم باستمرار، لكن بمجرد زيادتها، يصعب خفضها. يميل التنظيم إلى الزيادة في اتجاه واحد.

ماسك:
لذا فإن هذا الاقتراح الذي أطرحه هو خطوة في الاتجاه الصحيح، ويمكن تنفيذه بسرعة.

المضيف:
إذا لم تنظموا أنفسكم، فسيتم تنظيمكم في النهاية. مثال MPAA نموذجي جدًا.

واجهت صناعة السينما في ذلك الوقت رقابة وتنظيمًا حكوميين، ثم قرروا إنشاء نظام تصنيف خاص بهم، مثل ما الذي يشكل تصنيف R. حتى أنهم أنشأوا تصنيف PG-13 بسبب فيلم "Indiana Jones and the Temple of Doom"، لتسهيل فهم الجمهور للفرق بين PG وPG-13.

أعتقد أن هذا حل أنيق للغاية.

شكرًا لك على المشاركة في برنامجنا للسنة الخامسة على التوالي.

ماسك:
على الرحب والسعة. يجب أن أذهب إلى ممفيس للتعامل مع بعض وحدات معالجة الرسومات.

المضيف:
عليك تثبيتها ونشرها.

ماسك:
سأذهب للقتال من أجل هذه الآلات.

المضيف:
استمتع بمقطورة Airstream الخاصة بك. عندما دعوت إيلون لأول مرة إلى Starbase، قال: "تعال، يجب أن ترى ما أبنيه."

سألت: "هل يوجد فندق هناك؟" قال: "لا، لدي منزل من غرفتين، يمكنك الإقامة هناك." عندما وصلت، وجدت أنه منزل متواضع بجوار مستنقع. وقفنا في الخارج، وكان البعوض يلدغنا باستمرار. قلت: "واو، يمكنك بالتأكيد أن تكافئ نفسك بمنزل أفضل." قال: "ليس لدي وقت، يجب أن أجعل هذه الصواريخ تنطلق."

فكرت في نفسي، يمكنك الآن بالتأكيد أن تكافئ نفسك بمنزل متنقل، إيلون. حسنًا، عد إلى العمل. شكرًا.

ماسك: شكرًا.