مكافحة التقطير لدى Anthropic وOpenAI: حظر الحسابات وإخفاء سلاسل التفكير لا يمنعان اللحاق

بقلم: وانغ زيي، LatePost

تحرير: تشنغ مانكي

المنطق التجاري أهم من المنطق التقني.

في 10 سبتمبر 2026، نشرت Anthropic تقريرًا من 154 صفحة، ذكرت فيه أنها حددت وأحبطت عمليات تقطير غير مشروع واسعة النطاق استهدفت Claude من قبل 7 مختبرات ذكاء اصطناعي صينية.

التقطير هو أسلوب شائع لتدريب النماذج: يستخدم المطورون نموذجًا أقوى لتوليد البيانات، ثم يستخدمون هذه البيانات لتدريب نماذجهم الخاصة لتقليد النموذج الرائد. وتطلق Anthropic على الاستخراج غير المصرح به والواسع النطاق والخفي لقدرات النموذج اسم "التقطير غير المشروع".

وقالت Anthropic إن المؤسسات المعنية استخدمت وسائل مخالفة واضحة عند استخراج مخرجات النموذج الرائد: مثل استخدام بطاقات ائتمان مسروقة وبيانات تسجيل دخول ومفاتيح API لإنشاء حسابات وهمية بكميات كبيرة.

كما ذكر التقرير أن بعض شركات النماذج الصينية كانت تحول طلبات المستخدمين إلى Claude، أو تشتري محادثات المستخدمين من خدمات توجيه طرف ثالث، وتستخدم هذه البيانات لتدريب النماذج. وتضمنت بعض المحادثات أسماء وبيانات مؤسسية وبيانات اعتماد وصول صالحة.

ليست هذه المرة الأولى التي تتهم فيها Anthropic بـ"هجمات التقطير غير المشروع". ففي فبراير 2026، قالت إن DeepSeek وMoonshot AI وMiniMax أجروا أكثر من 16 مليون تفاعل مع Claude عبر حوالي 24 ألف حساب وهمي. ومنذ ذلك الحين، عززت Anthropic دفاعاتها. كما تواصل OpenAI وGoogle تحديد هجمات التقطير غير المشروع والتصدي لها.

هل يمكن لهذه الإجراءات أن تمنع التقطير غير المشروع؟

يشكك ليو يي، الأستاذ المساعد في جامعة جريفيث الأسترالية، في ذلك. وهو باحث متخصص في الذكاء الاصطناعي والأمن السيبراني، وعمل سابقًا كعالم أبحاث في Quantstamp. وقد أُدرج بحثه حول حقن الموجهات عام 2023 كمرجع في بند LLM 01 لمنظمة OWASP العالمية للأمن. كما حصل مرتين على مكافآت اكتشاف الثغرات من Anthropic، ودرس هجمات سرقة سلسلة الأفكار في النماذج التجارية الرائدة.

شارك ليو يي أحكامه الأساسية:

بأخذ Anthropic كمثال، وضعت شركات النماذج الرائدة الأمريكية حاليًا ثلاث طبقات دفاعية ضد التقطير غير المشروع:

(1) استخدام مصنفات مخصصة لكشف استخراج البيانات العدائي، لجعل النموذج يرفض الطلبات المشبوهة داخليًا؛

(2) إخفاء أو ضغط سلسلة الأفكار في التصميم المعماري قبل الإخراج؛

(3) استخدام كاشفات خارجية لتحديد استخراج البيانات، ثم قطع الطلب أو حظر الحساب.

مكافحة التقطير غير المشروع قضية زائفة. نظريًا، من الصعب القضاء على التقطير تمامًا، والهدف الأكثر واقعية لشركات النماذج الرائدة الأمريكية هو رفع تكلفة جمع البيانات، وإبطاء المنافسين، وإطالة فترة التفوق.

بالنسبة لشركات النماذج الرائدة الأمريكية، لا تحمي مكافحة التقطير غير المشروع قدرات النموذج فحسب، بل تدافع أيضًا عن القيمة التجارية المبنية على التفوق التقني.

يعتقد ليو يي أن فهم إجراءات مكافحة التقطير غير المشروع لشركات النماذج الرائدة الأمريكية يتطلب إدراك أن المنطق التجاري أهم من المنطق التقني.

تستطيع Anthropic تحديد السلوك المشتبه في كونه تقطيرًا غير مشروع، لكن يصعب عليها الحصول على دليل قاطع

LatePost : نشرت Anthropic تقريرًا في 10 سبتمبر تتهم فيه 7 مختبرات ذكاء اصطناعي صينية بالتقطير غير المشروع. ما المقصود تحديدًا بـ"هجوم التقطير غير المشروع" هنا؟

ليو يي: تتكون النماذج اللغوية الكبيرة السائدة حاليًا من ثلاثة أجزاء: مدخلات المستخدم، وسلسلة الأفكار الوسيطة، ومخرجات النموذج. تخفي Anthropic وOpenAI الآن سلسلة الأفكار الوسيطة، ولا تظهران سوى الإجابة النهائية. بالنسبة لمهام الاستدلال المعقدة، يُعد استخراج سلسلة الأفكار أحد أشكال هجوم التقطير غير المشروع.

LatePost : لماذا تعتبر البيانات مثل مسارات الاستدلال ومسارات الوكيل الكاملة مهمة جدًا لتحسين قدرات النموذج؟

ليو يي: يمكنك فهم سلسلة الأفكار على أنها حلول جاهزة أنتجها نموذج أقوى، وهي بيانات عالية الجودة يمكن استخدامها لتدريب النماذج.

يتحدد أداء النموذج الكبير بثلاثة عوامل: عدد المعاملات (N)، وكمية البيانات (D)، وكمية الحوسبة (C). تزيد جميع الشركات عدد المعاملات بسرعة نسبيًا، وفي ظل محدودية الوقت والقدرة الحاسوبية، تحتاج الشركات إلى مزيد من البيانات عالية الجودة لتحسين قدرات النموذج بشكل أسرع.

لكن بناء بيانات عالية الجودة للمهام المعقدة وطويلة الأمد أمر صعب للغاية، كما أن البيانات التدريبية القيمة في العالم الحقيقي تتناقص. لذلك تلجأ بعض شركات النماذج الكبيرة إلى تقطير النماذج الأكثر تقدمًا بطرق متنوعة.

LatePost : كيف يتم استخراج سلسلة الأفكار ومسارات المهام الإضافية؟

ليو يي: هناك مجموعات متنوعة من التقنيات. مثل الترميز، وكسر القيود، وحقن الموجهات، ثم استخدام أنواع مختلفة من التنويم، وإعطاء الذكاء الاصطناعي شخصية باستمرار، وجعله يعتقد أنه باحث يقوم بمهمة صعبة ولكنها ذات معنى، ويحتاج إلى التركيز على حل المهمة. لا أتواصل كثيرًا مع الأشخاص في الصين، لكنني أعلم أن العاملين في مجال الذكاء الاصطناعي في الخارج يستعيدون سلاسل الأفكار بهذه الطريقة — يكفي أن تقرأ الأوراق البحثية لتعرف الأفكار.

بالإضافة إلى استخراج سلسلة الأفكار الأصلية مباشرة، يمكن أيضًا محاولة تركيب سلسلة الأفكار الوسيطة بناءً على المدخلات والمخرجات. يُقال إن بعض شركات البيانات تبيع سلاسل أفكار للمهام طويلة الأمد بسعر 800-1000 يوان صيني للواحدة.

LatePost : من بين Anthropic وOpenAI وGoogle، من هو الأكثر تعرضًا للتقطير غير المشروع؟

ليو يي: وفقًا للتقارير العامة الحالية، يبدو أنها Anthropic. لكنني أعتقد أنه من الصعب الجزم. لقد اطلعت على النصوص الفعلية لسلاسل الأفكار من DeepSeek وGLM وKimi وAnthropic وOpenAI، ولم أجد اختلافات كبيرة في أسلوب اللغة. من الصعب تحديد من قطر من، فربما قاموا في البداية بتقطير DeepSeek أيضًا.

LatePost : كيف يتم تحديد هجمات التقطير غير المشروع تقنيًا عادة؟ من "هذه الطلبات تشبه التقطير غير المشروع" إلى "هذا هو تقطير غير مشروع لجهة معينة"، ما هي سلسلة الأدلة المطلوبة؟

ليو يي: تعتمد Anthropic بشكل أكبر على سلوك الاستدعاء للحكم. على سبيل المثال، تصدر بعض الحسابات فجأة عددًا كبيرًا من الطلبات، وتستخرج مجموعات بيانات ثابتة معينة بشكل مركز.

تحدد Anthropic أولاً الحسابات الشاذة، ثم تبحث عن أنماط مشتركة بين حسابات مختلفة، مثل نفس مطالبات النظام. نظرًا لاختلاف بنية الوكيل المستخدمة من قبل كل جهة، تختلف مطالبات النظام أيضًا، مما يسمح بتحديد الشركة التي تقف وراءها. على سبيل المثال، باستخدام التخزين المؤقت للبادئات، يمكن لـAnthropic اكتشاف أي مجموعات من المطالبات تشترك في نفس ذاكرة التخزين المؤقت، وإذا كانت غير متوافقة مع مطالبات النظام المعروفة حاليًا، فمن السهل تحديد هوية المُقطِّر.

LatePost : بعد تحديد الحسابات الشاذة، هل تستطيع Anthropic إثبات أن بياناتها قد دُرِّبت بالفعل في نموذج معين؟

ليو يي: من الصعب جدًا الإثبات بنسبة 100%. يمكنها اتهام شركة ما بمحاولة تقطير Claude، لكن من الصعب إثبات أن بيانات معينة دخلت بالفعل إلى نموذج الطرف الآخر.

على الرغم من أن GLM وKimi وDeepSeek نماذج مفتوحة المصدر، إلا أنها تفتح الأوزان فقط، ولا تفتح مجموعات البيانات. ومن الصعب جدًا الحصول على دليل قاطع على التقطير من أوزان النموذج. وإلا لما احتاجت Anthropic إلى التعبير بشكل غامض في التقرير، والتركيز فقط على وصف عمل محطات الترحيل — والسبب الأساسي هو عدم القدرة على التحليل بطريقة الصندوق الأبيض (White-box).

مثال آخر، يمكنك أن تسأل نموذجًا كبيرًا عن أول 100 كلمة من الكتاب الأول لهاري بوتر، وسيجيبك على الأرجح. لكن هذا لا يعني أنه تدرب مباشرة على النص الأصلي، فقد يكون مصدره مدونات أو مراجعات كتب تقتبس النص الأصلي.

LatePost : أي أن "هجوم التقطير غير المشروع" يصعب إثباته تمامًا، ويصعب أيضًا نفيه تمامًا.

ليو يي: يمكن لـAnthropic تكوين أدلة إسناد قوية نسبيًا من خلال سجلات الاستدعاء على مستوى المنصة، وارتباطات الحسابات، ومعلومات البنية التحتية، لكن هذا يختلف عن إثبات أن دفعة معينة من بيانات Claude دخلت بالفعل في التدريب من النموذج النهائي نفسه. والأخير أصعب بكثير من الناحية التقنية.

مكافحة التقطير غير المشروع ترفع تكلفة جمع البيانات للمنافسين، وقد "تضر" بالمستخدمين العاديين

LatePost : ما هي الأساليب التقنية المحددة التي تستخدمها شركات الذكاء الاصطناعي الأمريكية الرائدة حاليًا للتصدي لهجمات التقطير غير المشروع؟

ليو يي: أعتقد أنها تنقسم إلى ثلاث فئات.

أولاً، الكشف المدمج: من المرجح أن لدى Anthropic مصنفًا مخصصًا لاستخراج سلسلة الأفكار، وبمجرد اكتشاف تنشيط الحالة المرتبطة بسلسلة الأفكار، يمكنه منع سلوك الاستخراج؛

ثانيًا، الإخفاء على مستوى بنية المنتج: لم يعد النموذج يخرج سلسلة الأفكار الأصلية، بل يضغطها ويلخصها أولاً ثم يخرجها؛

ثالثًا، الكشف الخارجي: يمكنه مثلًا التحقق مما إذا كان المحتوى الناتج يتداخل مع سلسلة الأفكار الخاصة به، وإذا وصل إلى عتبات تسريب معينة، فسيمنع الإخراج. وعندما تتكرر مثل هذه السلوكيات، يتم حظر الحساب.

LatePost : لم يتضمن تقرير Anthropic هذه التفاصيل، فكيف عرفتها؟

ليو يي: هذا تخميني الخاص، لأنها عمليات شائعة نسبيًا. لماذا تطلق Anthropic برنامج مكافآت اكتشاف الثغرات لاختبار دفاعاتها الأمنية؟ إنها تريد أن تدفع المال للناس لكسر قيود مطالباتها — بمجرد اكتشاف اختراق شيء ما، تقوم فورًا بتدريب مصنفها عليه، وبالتالي يصبح الهجوم التالي أصعب فأصعب.

LatePost : حصلت مرتين على مكافآت اكتشاف الثغرات من Anthropic، كيف كانت العملية؟

ليو يي: قضيت حوالي أسبوعين إلى ثلاثة أسابيع، بشكل أساسي ضمن نطاق برنامج مكافآت الثغرات المصرح به من Anthropic، لإجراء اختبارات الخصومة على مصنف الأمان الخاص بها، ومحاولة إيجاد مدخلات يمكنها تجاوز الدفاعات الحالية. لأن الاختراق إما صفر أو واحد، لا يوجد سوى النجاح أو الفشل، ولا توجد حالة 0.5. كان هدف المهمة حينها هو الحصول على بعض الأسئلة المحددة من Anthropic، ولم يتضمن بشكل مباشر استعادة سلسلة الأفكار. لكن بعض المنطق متشابه.

LatePost : هل يمكن أن تضر إجراءات مكافحة هجمات التقطير غير المشروع بالمستخدمين المشتركين العاديين؟

ليو يي: المستخدمون المشتركون العاديون يجب أن يكونوا بخير، فما يثير نظام إدارة المخاطر هم المستخدمون الشاذون، مثل حسابات محطات الترحيل، أو الحسابات التي تحاول مهاجمة Claude.

أتذكر أن تقرير Anthropic كشف أيضًا عن طالبين جامعيين من جامعة في هونان صمما وكيل أمن سيبراني خاص بهما، واستخدماه لمهاجمة مواقع ويب مختلفة، وقد تم اكتشافهما.

نظريًا، يمكن لـAnthropic الاطلاع على جميع معلومات تفاعلك معها إذا أرادت ذلك.

LatePost : إذن عندما تعتقد Anthropic أن المستخدم قد يشكل تهديدًا لها، هل يمكنها الوصول إلى بيانات المستخدم والاطلاع عليها؟

ليو يي: يعتمد ذلك على شروط الاستخدام الخاصة بكل شركة نماذج. على حد علمي، توفر Anthropic وOpenAI وGoogle آلية ما يسمى بعدم الاحتفاظ بالبيانات (ZDR)، وتتعهد بتدمير مطالبات العملاء والردود التي يولدها الذكاء الاصطناعي فورًا بعد معالجة المهمة، دون تخزين أو احتفاظ أو استخدام لتدريب النماذج. هذه الميزة موجهة بشكل أساسي لعملاء API أو المؤسسات المؤهلين، وتتطلب عادةً تقديم طلب أو إعدادات إضافية. أما المستخدمون العاديون عند استخدام Claude وChatGPT وGemini، فتخضع سياسات الاحتفاظ بالبيانات لاتفاقيات المستخدم الخاصة بكل منهم، ولا تعادل ZDR الصارم.

على سبيل المثال، إذا قامت شركة النماذج بإعادة صياغة بياناتك بشكل طفيف واستخدامها للتدريب، فهل يُعتبر ذلك استخدامًا لبياناتك؟

LatePost : أي أن النماذج الرائدة تجعل المستخدمين يدفعون مقابل الاستخدام، وفي الوقت نفسه قد تستخدم بيانات المستخدمين لمواصلة التوسع؟

ليو يي: نعم. على سبيل المثال، عندما يصحح المستخدمون إجابات النموذج في Claude Code أو Codex، فإن هذه الملاحظات تعتبر إشارات مكافأة قيمة يمكنها تحسين مرحلة ما بعد التدريب.

التقطير غير المشروع يتبع نفس المنطق. يعتمد ما بعد التدريب للنماذج الحالية بشكل أساسي على التعلم المعزز، والمفتاح هو إشارة المكافأة. عندما تحصل شركة النماذج على سلسلة أفكار نموذج أقوى أداءً، فهي تحصل على "النتيجة الكبيرة"، وتحصل مباشرة على مسارات حل عالية الجودة. هذا يمكن أن يقلل من الاستكشاف الأعمى، ويجعل النموذج يتقارب بشكل أسرع إلى حالة جيدة، مما يوفر الوقت والقدرة الحاسوبية.

LatePost : ما هو معيار النجاح لشركات النماذج الرائدة الأمريكية في منع هجمات التقطير غير المشروع؟

ليو يي: أولاً، منع شركات النماذج الأخرى من التدريب عبر الطرق المختصرة، وضمان تفوق نموذجها. ثانيًا، رفع تكلفة التقطير غير المشروع وتكلفة جمع البيانات لشركات النماذج الأخرى. مع محاولة عدم التأثير على الاستخدام الطبيعي للمستخدمين قدر الإمكان.

LatePost : هل يمكن منعها؟

ليو يي: أعتقد أنه لا يمكن منعها تمامًا. طالما أن النموذج متاح للاستخدام، فهناك خطر تسريب.

لكنني لاحظت مؤخرًا أن OpenAI أطلقت رسميًا النسخة التجريبية العامة من Agents API في 10 سبتمبر. على عكس Responses API السابقة، حيث يعطي المستخدم مدخلاً ويعطي النموذج الكبير مخرجًا مع سلسلة أفكار في المنتصف، فإن منطق Agents API هو أن المستخدم يعطي مهمة ويحصل مباشرة على نتيجة المهمة. يتم إخفاء سلسلة الأفكار الوسيطة وعملية بنية الوكيل، مما يعادل بيع بيئة تنفيذ كاملة. لم يعد المستخدم بحاجة إلى الاهتمام بالتفاصيل الدقيقة، وأصبح تنفيذ المهام الكلي أكثر تجريدًا. في هذا السيناريو، قد تصبح تكلفة هجمات التقطير غير المشروع أعلى.

الدافع الحقيقي لمكافحة التقطير غير المشروع: السيطرة على الرأي العام وحماية التقييم

LatePost : هل تعتقد أن التقطير هو الحل الأمثل لتحسين قدرات النموذج؟ يبدو أن سرعة النسخ من قبل المتأخرين لا يمكنها أبدًا مواكبة سرعة الابتكار الرائد؟

ليو يي: كان لدي رأي سابق، في عام 2024، بأن الابتكار في بنية النموذج نفسه كان خندقًا على المدى القصير. بعد ذلك، قد يمتد الخندق إلى القدرة الحاسوبية. ثم بعد ذلك، سيكون الخندق هو البنية التحتية والطاقة. ألاحظ أن التطور يسير حاليًا وفق هذا الاتجاه تقريبًا.

LatePost : أين يمكن تصنيف التقطير ضمن استنتاجك حول الخنادق؟

ليو يي: أعتقد أنه يمكن تصنيفه ضمن القدرة الحاسوبية. نظريًا، يمكن الوصول إليه بالمحاولة المتكررة، لكن الوقت قد لا يسمح بذلك.

LatePost : ما الذي تحميه مكافحة التقطير غير المشروع في النهاية؟

ليو يي: مكافحة التقطير غير المشروع قضية زائفة. نظريًا، التقطير لا يمكن الدفاع عنه — وفقًا للطبيعة البشرية، طالما أن كفاءة تقطيري لك أعلى من كفاءة بناء البيانات لتدريب نموذجي بنفسي، فسأقوم بتقطيرك أولاً.

LatePost : هل تعتقد أن مكافحة التقطير غير المشروع من قبل شركات الذكاء الاصطناعي الأمريكية الرائدة معركة محكوم عليها بالفشل؟

ليو يي: نعم. هذا هو رأيي.

LatePost : إذا كانت محكومة بالفشل تقنيًا، فلماذا تصر شركات الذكاء الاصطناعي الأمريكية الرائدة على ذلك؟

ليو يي: إنهم يريدون الحفاظ على التفوق التقني. مؤخرًا، قالت OpenAI إنها استخدمت حوالي 10 آلاف وكيل ذكاء اصطناعي واستغرقت 88 ساعة لإكمال إثبات رياضي لواحدة من "مسائل الألفية السبع". على سبيل المثال، لنفترض أن DeepSeek أعلنت في نهاية هذا العام أنها حلت جميع مسائل الألفية السبع، وكتبت في تقريرها التقني: لقد أنجزت المهمة بتكلفة تعادل 1/10 من تكلفة OpenAI. قد يسأل المستثمرون الأمريكيون: لماذا تحتاجون إلى كل هذه الأموال، ومع ذلك لا تؤدون بنفس جودة الآخرين؟ وقد ينخفض تقييم OpenAI.

لذا فإن جوهر سلوك مكافحة التقطير غير المشروع من قبل OpenAI وغيرها من شركات النماذج الرائدة الأمريكية هو منطق تجاري، وليس مجرد منطق تطور تقني:

تريد Anthropic أولاً جمع البيانات وبناء دولاب البيانات الخاص بها، وثانيًا تحسين إيراداتها السنوية المتكررة استعدادًا للاكتتاب العام.

منطق OpenAI مشابه. لماذا توزع OpenAI باستمرار بطاقات إعادة تعيين للجميع — أليس ذلك بمثابة إعطاء المال للجميع مع كل ضغطة؟ إنه لجمع البيانات وجعل البيانات المالية تبدو أفضل.

LatePost : في 12 سبتمبر، نشر داريو أمودي، مؤسس Anthropic، مقالاً يدعو الصناعة بأكملها إلى إبطاء وتيرة تكرار النماذج الرائدة. ما رأيك؟

ليو يي: أعتقد أنهم ربما رأوا بعض الاختناقات. قد تكون هناك ثلاثة عوامل للاختناق: البيانات، والقدرة الحاسوبية، والبنية التحتية/الطاقة. لكن لا يمكنني تحديد أي اختناق بالضبط حاليًا، فقد تكون العوامل الثلاثة مجتمعة.

رأس المال يسعى دائمًا للربح. نظريًا، إذا تمكنت من بناء ذكاء اصطناعي عام، يمكنني جني الأرباح من العالم كله، ولا يوجد سبب للتوقف عن التطوير، بل يجب أن "أنطلق بأقصى سرعة" لتحقيق الذكاء الاصطناعي العام. من المرجح أنهم واجهوا اختناقات، لذلك خرجوا تحت غطاء سلامة الذكاء الاصطناعي لدعوة الجميع: الذكاء الاصطناعي خطير جدًا، فلنجلس أولاً ونناقش كيفية تقييد تطوره.

LatePost : ما هو السبب الجوهري لمكافحة التقطير غير المشروع من قبل شركات النماذج الرائدة في رأيك؟

ليو يي: رفع تكلفة التقطير غير المشروع على المنافسين، والحفاظ على تفوقهم. ربما يحكمون بأن النماذج الصينية ستلحق بهم قريبًا، لكنهم لم يجدوا طريقة أفضل للحفاظ على تفوقهم، فلم يجدوا سوى تشديد القيود واحتلال المرتفعات الإعلامية أولاً.

من منظور الإجماع البسيط في الصناعة، يعد التقطير غير المشروع مشكلة أمنية كبيرة، ويعادل سرقة الملكية الفكرية. لكن من الناحية العملية، هو في جوهره نوع من المساواة في الذكاء الاصطناعي. التقطير غير المشروع وسيلة لموازنة السوق بسرعة. وبسبب وجود العديد من المنافسين، لا تستطيع أي شركة نماذج احتكار السوق والتحكم في الأسعار كما تشاء.

LatePost : ذكرت الجانب الإيجابي للتقطير، من ناحية أخرى، ما هي الأضرار المحتملة التي قد يجلبها التقطير غير المشروع للصناعة بأكملها وللمستخدمين العاديين؟

ليو يي: بالنسبة للصناعة، تتشابه أساليب الإخراج لدى الجميع، وسترث النماذج أنماط فشل معينة من النماذج المعلمة. بالنسبة للمستخدمين، هناك مخاطر تسريب للخصوصية.

LatePost : بشكل عام، ما هي حالة مجال سلامة الذكاء الاصطناعي بما في ذلك هجمات التقطير غير المشروع والدفاع عنها، وما التحديات التي تواجهه؟

ليو يي: ما يهمني أكثر هو التوتر الهيكلي بين سلامة الذكاء الاصطناعي والحوافز التجارية.

تستثمر شركات النماذج بالفعل موارد كبيرة في السلامة، لكن في بعض السيناريوهات، قد تؤثر إجراءات السلامة الأكثر صرامة على قدرات النموذج، أو تؤخر إطلاق المنتجات، أو تقلل من تجربة المستخدم، لذا فإن أهداف السلامة وأهداف المنافسة ليست متطابقة تمامًا دائمًا. لذلك، فإن إحدى قضايا الحوكمة المهمة هي كيفية جعل الاستثمار في السلامة أكثر اتساقًا مع الحوافز التجارية للشركة. على الأقل على المدى القصير، من الصعب إيجاد حل أنيق يعالج مشكلات السلامة دون التضحية بأداء النموذج.

LatePost : كيف تتوقع تطور هجمات التقطير غير المشروع في المستقبل؟

ليو يي: سيستمر الهجوم والدفاع، وسيصلان إلى توازن ديناميكي. قد تكون هناك عدة مدارس: الأولى، التخلي عن سلسلة الأفكار والبدء في التقطير مباشرة، واستكشاف إلى أي مدى يمكن تقطير نموذج رائد. الثانية، الحصول على سلسلة الأفكار الأصلية مع الحفاظ عليها. الثالثة، تركيب سلسلة الأفكار بأنفسهم.

LatePost : ما هي نصيحتك للمستخدمين العاديين لتجنب تسريب البيانات الخاصة؟

ليو يي: لا تستخدموا محطات الترحيل. عند استخدام بعض النماذج، إذا كان هناك خيار للموافقة على استخدام بياناتك للتدريب، فلا تختاروا الموافقة. لا يمكنكم فعل الكثير غير ذلك. ففي النهاية، نحن تحت رحمة الآخرين.