Anthropic และ OpenAI กับการต่อต้านการกลั่นกรองความรู้: ปิดบัญชี ซ่อนสายโซ่ความคิด แต่หยุดการไล่ตามไม่ได้

ผู้เขียน: หวัง จื่ออี, LatePost

บรรณาธิการ: เฉิง หมานฉี

ตรรกะทางธุรกิจสำคัญกว่าตรรกะทางเทคนิค

เมื่อวันที่ 10 กันยายน 2026 Anthropic ได้เผยแพร่รายงานความยาว 154 หน้า โดยระบุว่าสามารถระบุและสกัดกั้นการกลั่นกรองความรู้ขนาดใหญ่จากห้องปฏิบัติการ AI ของจีน 7 แห่งที่มุ่งเป้าไปที่ Claude

การกลั่นกรองความรู้เป็นวิธีการฝึกโมเดลที่พบได้ทั่วไป: นักพัฒนาใช้โมเดลที่แข็งแกร่งกว่าในการสร้างข้อมูล แล้วใช้ข้อมูลเหล่านั้นฝึกโมเดลของตนเองให้เลียนแบบโมเดลชั้นนำ Anthropic เรียกพฤติกรรมการดึงความสามารถของโมเดลโดยไม่ได้รับอนุญาต ในวงกว้าง และปกปิดว่า "การกลั่นกรองความรู้โดยมิชอบ" (illicit distillation)

Anthropic ระบุว่าหน่วยงานที่เกี่ยวข้องใช้วิธีการที่ละเมิดกฎอย่างชัดเจนในการดึงเอาต์พุตจากโมเดลชั้นนำ เช่น การใช้บัตรเครดิตที่ถูกขโมย ข้อมูลรับรองการเข้าสู่ระบบ และคีย์ API เพื่อสร้างบัญชีปลอมจำนวนมาก

รายงานยังระบุว่าบริษัทโมเดลจีนบางแห่งส่งต่อคำขอของผู้ใช้ไปยัง Claude หรือซื้อบทสนทนาของผู้ใช้จากบริการกำหนดเส้นทางของบุคคลที่สาม แล้วใช้ข้อมูลเหล่านี้ฝึกโมเดล บทสนทนาบางส่วนมีชื่อ ข้อมูลองค์กร และข้อมูลรับรองการเข้าถึงที่ถูกต้อง

นี่ไม่ใช่ครั้งแรกที่ Anthropic กล่าวหาเรื่อง "การโจมตีด้วยการกลั่นกรองความรู้" ในเดือนกุมภาพันธ์ 2026 บริษัทระบุว่า DeepSeek, Moonshot AI (月之暗面) และ MiniMax มีการโต้ตอบกับ Claude มากกว่า 16 ล้านครั้งผ่านบัญชีปลอมประมาณ 24,000 บัญชี หลังจากนั้น Anthropic ได้เพิ่มมาตรการป้องกัน OpenAI และ Google ก็ยังคงระบุและรับมือกับการโจมตีด้วยการกลั่นกรองความรู้อย่างต่อเนื่อง

มาตรการเหล่านี้สามารถป้องกันการกลั่นกรองความรู้ได้หรือไม่?

หลิว อี้ ผู้ช่วยศาสตราจารย์จากมหาวิทยาลัยกริฟฟิธ ประเทศออสเตรเลีย แสดงความสงสัย เขาศึกษาด้านปัญญาประดิษฐ์และความปลอดภัยทางไซเบอร์มาเป็นเวลานาน และเคยเป็นนักวิทยาศาสตร์วิจัยด้าน AI ที่ Quantstamp งานวิจัยเรื่อง prompt injection ที่เขาเข้าร่วมในปี 2023 ได้รับการอ้างอิงในรายการ LLM 01 ขององค์กรความปลอดภัยระดับโลก OWASP เขายังเคยได้รับรางวัล bug bounty ด้านความปลอดภัยจาก Anthropic สองครั้ง และเคยศึกษาการโจมตีเพื่อขโมยสายโซ่ความคิดจากโมเดลเชิงพาณิชย์ชั้นนำ

หลิว อี้ แบ่งปันข้อสรุปหลักของเขา:

ยกตัวอย่าง Anthropic ปัจจุบันบริษัทโมเดลชั้นนำของสหรัฐฯ มีแนวป้องกันการกลั่นกรองความรู้สามชั้นหลัก:

(1) ใช้ตัวจำแนกที่ออกแบบมาเพื่อตรวจจับการดึงข้อมูลเชิงปฏิปักษ์โดยเฉพาะ เพื่อให้โมเดลปฏิเสธคำขอที่น่าสงสัยจากภายใน

(2) ซ่อนหรือบีบอัดสายโซ่ความคิดก่อนส่งออกในการออกแบบสถาปัตยกรรม

(3) ใช้ตัวตรวจจับภายนอกเพื่อระบุการดึงข้อมูล จากนั้นขัดจังหวะคำขอหรือระงับบัญชี

การต่อต้านการกลั่นกรองความรู้เป็นข้อเสนอเท็จ ในทางทฤษฎี การกลั่นกรองความรู้ยากที่จะกำจัดให้หมดไป เป้าหมายที่เป็นจริงมากกว่าของบริษัทโมเดลชั้นนำของสหรัฐฯ คือการเพิ่มต้นทุนการเก็บข้อมูล ชะลอคู่แข่ง และยืดเวลาการเป็นผู้นำ

สำหรับบริษัทโมเดลชั้นนำของสหรัฐฯ การต่อต้านการกลั่นกรองความรู้ไม่ได้ปกป้องแค่ความสามารถของโมเดลเท่านั้น แต่ยังปกป้องมูลค่าทางธุรกิจที่สร้างขึ้นบนความเป็นผู้นำทางเทคโนโลยีอีกด้วย

หลิว อี้ เชื่อว่าการทำความเข้าใจปฏิบัติการต่อต้านการกลั่นกรองความรู้ของบริษัทโมเดลชั้นนำของสหรัฐฯ ตรรกะทางธุรกิจสำคัญกว่าตรรกะทางเทคนิค

Anthropic ระบุพฤติกรรมที่สงสัยว่าเป็นการกลั่นกรองความรู้ได้ แต่ยากที่จะได้หลักฐานที่แน่ชัด

LatePost: รายงานที่ Anthropic เผยแพร่เมื่อวันที่ 10 กันยายน กล่าวหาห้องปฏิบัติการ AI ของจีน 7 แห่งว่าทำการกลั่นกรองความรู้โดยมิชอบ "การโจมตีด้วยการกลั่นกรองความรู้" ในที่นี้หมายถึงอะไรโดยเฉพาะ?

หลิว อี้: ปัจจุบันโมเดลภาษาขนาดใหญ่กระแสหลักประกอบด้วยสามส่วน: ข้อมูลนำเข้าของผู้ใช้ สายโซ่ความคิด (chain of thought) ในการให้เหตุผลขั้นกลาง และเอาต์พุตของโมเดล ตอนนี้ Anthropic และ OpenAI จะซ่อนสายโซ่ความคิดขั้นกลางไว้ และให้เฉพาะคำตอบสุดท้าย สำหรับงานให้เหตุผลที่ซับซ้อน การดึงสายโซ่ความคิดออกมาเป็นวิธีการโจมตีด้วยการกลั่นกรองความรู้วิธีหนึ่ง

LatePost: เหตุใดข้อมูลเช่นแทรเจกทอรีการให้เหตุผลและแทรเจกทอรี Agent ที่สมบูรณ์จึงสำคัญต่อการพัฒนาความสามารถของโมเดล?

หลิว อี้: คุณสามารถเข้าใจสายโซ่ความคิดได้ว่าเป็นเฉลยที่โมเดลที่แข็งแกร่งกว่าได้ทำไว้แล้ว เป็นข้อมูลคุณภาพสูงที่ใช้ฝึกโมเดลได้

ประสิทธิภาพของโมเดลภาษาขนาดใหญ่ถูกกำหนดร่วมกันโดยจำนวนพารามิเตอร์ (N) ปริมาณข้อมูล (D) และปริมาณการคำนวณ (C) จำนวนพารามิเตอร์ของแต่ละบริษัทเพิ่มขึ้นค่อนข้างเร็ว เมื่อเวลาและพลังการคำนวณมีจำกัด หากบริษัทต้องการพัฒนาความสามารถของโมเดลให้เร็วขึ้น ก็จำเป็นต้องมีข้อมูลคุณภาพสูงมากขึ้น

แต่การสร้างข้อมูลคุณภาพสูงสำหรับงานที่ซับซ้อนและใช้เวลานานนั้นยากมาก และข้อมูลการฝึกที่มีคุณค่าในโลกแห่งความเป็นจริงก็น้อยลงเรื่อยๆ ดังนั้นบริษัทโมเดลภาษาขนาดใหญ่บางแห่งจึงใช้วิธีการต่างๆ ในการกลั่นกรองความรู้จากโมเดลที่สูงกว่า

LatePost: จะดึงสายโซ่ความคิดและแทรเจกทอรีงานเพิ่มเติมออกมาได้อย่างไร?

หลิว อี้: มีเทคนิคผสมผสานหลายอย่าง เช่น ผ่านการเข้ารหัส (encoding), การเจลเบรก (jailbreaking), การแทรกพรอมต์ (prompt injection) แล้วใช้การสะกดจิตแบบต่างๆ กำหนดบทบาทให้ AI อย่างต่อเนื่อง ให้มันเชื่อว่าตัวเองเป็นนักวิจัย กำลังทำสิ่งที่ยากแต่มีความหมาย ทำให้มันต้องจดจ่อกับการแก้ปัญหา ฉันไม่ได้ติดต่อกับคนในประเทศจีนมากนัก แต่ฉันทราบว่าคนทำ AI ในต่างประเทศมีการกู้คืนสายโซ่ความคิดด้วยวิธีนี้ โดยพื้นฐานแล้วแค่อ่าน paper ก็รู้แนวคิดของคนอื่นแล้ว

นอกจากการดึงสายโซ่ความคิดดั้งเดิมออกมาโดยตรงแล้ว ยังสามารถลองสังเคราะห์สายโซ่ความคิดขั้นกลางจากข้อมูลนำเข้าและเอาต์พุตได้อีกด้วย มีรายงานว่าบริษัทข้อมูลบางแห่งขายสายโซ่ความคิดสำหรับงานที่ใช้เวลานานในราคา 800-1,000 หยวนต่อชิ้น

LatePost: ระหว่าง Anthropic, OpenAI และ Google ใครถูกกลั่นกรองความรู้มากที่สุด?

หลิว อี้: จากรายงานสาธารณะในปัจจุบัน น่าจะเป็น Anthropic แต่ฉันว่าไม่แน่ ฉันดูข้อความจริงของสายโซ่ความคิดจาก DeepSeek, GLM, Kimi, Anthropic และ OpenAI แล้ว สไตล์ภาษาไม่ได้แตกต่างกันมากนัก ไม่แน่ว่าใครกลั่นใคร เป็นไปได้ว่าตอนแรกสุดพวกเขาอาจกลั่นกรองความรู้จาก DeepSeek ด้วยซ้ำ

LatePost: ในทางเทคนิค ปกติแล้วจะระบุการโจมตีด้วยการกลั่นกรองความรู้ได้อย่างไร? จาก "คำขอชุดนี้ดูเหมือนการกลั่นกรองความรู้" ไปจนถึง "นี่คือการกลั่นกรองความรู้ขององค์กรหนึ่ง" ต้องใช้หลักฐานเชื่อมโยงอย่างไร?

หลิว อี้: Anthropic ตัดสินจากพฤติกรรมการเรียกใช้เป็นหลัก เช่น บัญชีบางบัญชีส่งคำขอจำนวนมากอย่างกะทันหัน เพื่อดึงชุดข้อมูลที่ตายตัวบางชุด

Anthropic จะระบุบัญชีที่ผิดปกติก่อน แล้วมองหารูปแบบที่ใช้ร่วมกันระหว่างบัญชีต่างๆ เช่น พรอมต์ระบบเดียวกัน เนื่องจากแต่ละบริษัทใช้สถาปัตยกรรม Agent (harness) ต่างกัน พรอมต์ระบบก็ต่างกัน จึงสามารถระบุบริษัทที่อยู่เบื้องหลังได้ ตัวอย่างเช่น ด้วยการแคชคำนำหน้า (prefix caching) ทำให้ Anthropic พบว่าพรอมต์กลุ่มใดใช้แคชร่วมกัน และไม่ตรงกับพรอมต์ระบบที่รู้จักในปัจจุบัน ก็จะระบุผู้กลั่นกรองความรู้ได้ง่าย

LatePost: หลังจากระบุบัญชีที่ผิดปกติแล้ว Anthropic จะสามารถยืนยันได้เพิ่มเติมหรือไม่ว่าข้อมูลของตนถูกนำไปฝึกในโมเดลใดโมเดลหนึ่งโดยเฉพาะ?

หลิว อี้: ยากที่จะยืนยันได้ 100% มันสามารถกล่าวหาว่าบริษัทหนึ่งพยายามกลั่นกรองความรู้จาก Claude แต่ยากที่จะพิสูจน์ว่าข้อมูลบางส่วนเข้าไปอยู่ในโมเดลของอีกฝ่ายจริง

GLM, Kimi และ DeepSeek แม้จะเป็นโมเดลโอเพนซอร์ส แต่เปิดเฉพาะน้ำหนัก ไม่เปิดชุดข้อมูล และจากน้ำหนักโมเดล ยากที่จะได้หลักฐานยืนยันการกลั่นกรองความรู้ มิฉะนั้น Anthropic คงไม่ต้องพูดอย่างคลุมเครือในรายงาน โดยเน้นอธิบายการทำงานของพร็อกซีเท่านั้น โดยพื้นฐานแล้วเป็นเพราะไม่สามารถวิเคราะห์ด้วยวิธีกล่องขาวได้

อีกตัวอย่างหนึ่ง คุณสามารถถามโมเดลภาษาขนาดใหญ่ถึง 100 คำแรกของหนังสือแฮร์รี่ พอตเตอร์ เล่มแรก มันก็มีแนวโน้มจะตอบคุณ แต่นั่นไม่ได้หมายความว่ามันฝึกจากต้นฉบับโดยตรง อาจมาจากบล็อกหรือบทวิจารณ์หนังสือที่อ้างอิงข้อความต้นฉบับก็ได้

LatePost: กล่าวคือ "การโจมตีด้วยการกลั่นกรองความรู้" ยากที่จะพิสูจน์ได้อย่างสมบูรณ์ และก็ยากที่จะหักล้าง

หลิว อี้: Anthropic สามารถสร้างหลักฐานการระบุแหล่งที่มาที่ค่อนข้างแข็งแกร่งได้จากบันทึกการเรียกใช้ฝั่งแพลตฟอร์ม ความเชื่อมโยงของบัญชี และข้อมูลโครงสร้างพื้นฐาน แต่นั่นเป็นคนละปัญหากับการพิสูจน์จากตัวโมเดลสุดท้ายว่าข้อมูล Claude ชุดหนึ่งถูกนำไปฝึกจริง ซึ่งอย่างหลังยากกว่ามากในทางเทคนิค

การต่อต้านการกลั่นกรองความรู้เพิ่มต้นทุนการเก็บข้อมูลของคู่แข่ง และอาจ "ทำร้ายโดยไม่ตั้งใจ" ผู้ใช้ทั่วไป

LatePost: ปัจจุบันบริษัท AI ชั้นนำของสหรัฐฯ มีวิธีการทางเทคนิคเฉพาะอะไรบ้างในการรับมือกับการโจมตีด้วยการกลั่นกรองความรู้?

หลิว อี้: ฉันคิดว่าแบ่งเป็นสามประเภท

หนึ่ง การตรวจจับแบบฝังตัว Anthropic น่าจะมีตัวจำแนก (classifier) เฉพาะสำหรับการดึงสายโซ่ความคิด เมื่อตรวจพบว่าสถานะที่เกี่ยวข้องกับสายโซ่ความคิดถูกเปิดใช้งาน ก็สามารถหยุดพฤติกรรมการดึงได้

สอง การซ่อนในระดับสถาปัตยกรรมผลิตภัณฑ์ โมเดลไม่ส่งออกสายโซ่ความคิดดั้งเดิมอีกต่อไป แต่บีบอัดและสรุปก่อน แล้วจึงส่งออก

สาม การตรวจจับแบบเสริม เช่น ตรวจสอบว่าเนื้อหาที่ส่งออกทับซ้อน (overlap) กับสายโซ่ความคิดของตัวเองหรือไม่ หากถึงเกณฑ์การรั่วไหลที่กำหนด ก็จะหยุดการส่งออก เมื่อพฤติกรรมเช่นนี้เกิดขึ้นบ่อยครั้ง บัญชีก็จะถูกระงับ

LatePost: รายงานของ Anthropic ไม่ได้กล่าวถึงรายละเอียดเหล่านี้ คุณทราบได้อย่างไร?

หลิว อี้: นี่เป็นการคาดเดาของฉันเอง เพราะเป็นปฏิบัติการที่พบได้ทั่วไป ทำไม Anthropic ถึงเผยแพร่โปรแกรม Bug Bounty เพื่อทดสอบมาตรการป้องกันความปลอดภัยของตัวเอง? มันต้องการจ่ายเงินเพื่อซื้อพรอมต์ที่คนใช้เจลเบรกมัน เมื่อพบว่ามีสิ่งใดถูกเจาะ มันก็จะนำไปฝึกในตัวจำแนกของตัวเองทันที ดังนั้นการโจมตีครั้งต่อไปก็จะยากขึ้นเรื่อยๆ

LatePost: คุณเคยได้รับรางวัล bug bounty ด้านความปลอดภัยจาก Anthropic สองครั้ง ตอนนั้นเป็นกระบวนการอย่างไร?

หลิว อี้: ตอนนั้นฉันใช้เวลาประมาณ 2 ถึง 3 สัปดาห์ ส่วนใหญ่อยู่ในขอบเขตของโปรแกรม bug bounty ที่ได้รับอนุญาตจาก Anthropic ทำการทดสอบเชิงปฏิปักษ์ (Adversarial Testing) กับตัวจำแนกความปลอดภัยของมัน พยายามหาข้อมูลนำเข้าที่สามารถหลบเลี่ยงการป้องกันที่มีอยู่ เพราะการเจาะระบบเป็นแบบ zero or one (มีเพียงสองสถานะ) มีแค่สำเร็จกับไม่สำเร็จ ไม่มีสถานะ 0.5 เป้าหมายของงานตอนนั้นคือการดึงข้อมูลบางอย่างที่ Anthropic กำหนด ไม่เกี่ยวข้องโดยตรงกับการกู้คืนสายโซ่ความคิด แต่ตรรกะบางอย่างคล้ายกัน

LatePost: ปฏิบัติการป้องกันการโจมตีด้วยการกลั่นกรองความรู้ จะทำร้ายผู้ใช้ที่สมัครสมาชิกปกติหรือไม่?

หลิว อี้: ผู้ใช้ที่สมัครสมาชิกปกติน่าจะยังโอเค สิ่งที่กระตุ้นการควบคุมความเสี่ยงส่วนใหญ่เป็นผู้ใช้ที่ผิดปกติ เช่น บัญชีพร็อกซี หรือบัญชีที่พยายามโจมตี Claude

ฉันจำได้ว่าในรายงานของ Anthropic ยังเปิดเผยว่านักศึกษาปริญญาตรี 2 คนจากมหาวิทยาลัยแห่งหนึ่งในมณฑลหูหนานออกแบบ Agent ด้านความปลอดภัยทางไซเบอร์ด้วยตัวเอง แล้วใช้มันโจมตีเว็บไซต์ต่างๆ ซึ่งถูกขุดพบทั้งหมด

ในทางทฤษฎี ข้อมูลทั้งหมดที่คุณโต้ตอบกับ Anthropic มันสามารถตรวจสอบได้ทั้งหมดหากต้องการ

LatePost: ดังนั้นเมื่อ Anthropic คิดว่าผู้ใช้อาจเป็นภัยคุกคามต่อพวกเขา ก็สามารถเรียกดูข้อมูลผู้ใช้ได้หรือไม่?

หลิว อี้: ต้องดูข้อกำหนดผู้ใช้ของบริษัทโมเดลแต่ละแห่งโดยเฉพาะ เท่าที่ฉันทราบ Anthropic, OpenAI และ Google มีกลไก Zero Data Retention (ZDR, การเก็บรักษาข้อมูลเป็นศูนย์) บางอย่าง โดยสัญญาว่าหลังจากประมวลผลงานเสร็จ จะทำลายพรอมต์ที่ลูกค้าป้อนและคำตอบที่ AI สร้างขึ้นทันที ไม่จัดเก็บ ไม่เก็บรักษา และไม่ใช้ฝึกโมเดล ฟีเจอร์นี้มุ่งเป้าไปที่ลูกค้า API หรือองค์กรที่มีคุณสมบัติตามเกณฑ์ โดยปกติต้องสมัครหรือกำหนดค่าเพิ่มเติม ผู้ใช้ทั่วไปเมื่อใช้ Claude, ChatGPT หรือ Gemini นโยบายการเก็บข้อมูลจะเป็นไปตามข้อตกลงผู้ใช้ของแต่ละบริการ ซึ่งไม่เทียบเท่ากับ ZDR ที่เข้มงวด

ตัวอย่างเช่น หากบริษัทโมเดลนำข้อมูลของคุณไปดัดแปลงเล็กน้อย แล้วใช้ฝึกโมเดล จะนับว่าใช้ข้อมูลของคุณหรือไม่?

LatePost: กล่าวคือ โมเดลชั้นนำให้ผู้ใช้จ่ายเงินเพื่อใช้งาน แต่ในขณะเดียวกันก็อาจใช้ข้อมูลผู้ใช้เพื่อขยายขนาดต่อไป?

หลิว อี้: ใช่ ตัวอย่างเช่น ผู้ใช้แก้ไขคำตอบของโมเดลใน Claude Code หรือ Codex ข้อเสนอแนะเหล่านี้เป็นสัญญาณรางวัล (reward signal) ที่มีค่ามาก สามารถปรับปรุงการฝึกหลังการฝึกได้

การกลั่นกรองความรู้ก็มีตรรกะเดียวกัน ปัจจุบันการฝึกหลังการฝึกของโมเดลอาศัยการเรียนรู้แบบเสริมกำลังเป็นหลัก กุญแจสำคัญคือสัญญาณรางวัล เมื่อบริษัทโมเดลได้สายโซ่ความคิดของโมเดลที่มีประสิทธิภาพสูงกว่า ก็เท่ากับได้ "ผลลัพธ์ใหญ่" ได้เส้นทางการแก้ปัญหาคุณภาพสูงโดยตรง ซึ่งช่วยลดการสำรวจแบบสุ่มสี่สุ่มห้า ทำให้โมเดลลู่เข้าสู่สถานะที่ดีได้เร็วขึ้น ประหยัดเวลาและพลังการคำนวณ

LatePost: มาตรฐานความสำเร็จของบริษัทโมเดลชั้นนำของสหรัฐฯ ในการป้องกันการโจมตีด้วยการกลั่นกรองความรู้คืออะไร?

หลิว อี้: หนึ่งคือสามารถหยุดบริษัทโมเดลอื่นไม่ให้ฝึกแบบทางลัด เพื่อรักษาความได้เปรียบในการเป็นผู้นำของโมเดลตัวเอง สองคือเพิ่มต้นทุนการกลั่นกรองความรู้และต้นทุนการเก็บข้อมูลของบริษัทโมเดลอื่น พร้อมกับพยายามไม่กระทบการใช้งานปกติของผู้ใช้

LatePost: ป้องกันได้หรือไม่?

หลิว อี้: ฉันว่าป้องกันไม่หมด ตราบใดที่โมเดลยังให้คนใช้ ก็มีความเสี่ยงที่จะรั่วไหล

แต่ช่วงนี้ฉันเห็น OpenAI เปิดตัว Agents API รุ่นเบต้าสาธารณะอย่างเป็นทางการเมื่อวันที่ 10 กันยายน ไม่เหมือน Responses API เดิมที่ผู้ใช้ให้ข้อมูลนำเข้า โมเดลภาษาขนาดใหญ่ให้เอาต์พุต โดยมีสายโซ่ความคิดคั่นกลาง ตรรกะของ Agents API คือผู้ใช้ให้งาน แล้วได้รับผลลัพธ์ของงานโดยตรง สายโซ่ความคิดขั้นกลางและกระบวนการ Agents harness ถูกซ่อนไว้ทั้งหมด เทียบเท่ากับการขายสภาพแวดล้อมการดำเนินการทั้งหมด ผู้ใช้ไม่ต้องจัดการรายละเอียดปลีกย่อยอีกต่อไป การดำเนินงานโดยรวมเป็นนามธรรมมากขึ้นเรื่อยๆ ในสถานการณ์เช่นนี้ หากต้องการโจมตีด้วยการกลั่นกรองความรู้ ต้นทุนก็อาจสูงขึ้น

แรงจูงใจที่แท้จริงของการต่อต้านการกลั่นกรองความรู้: ครองความคิดเห็นสาธารณะ ปกป้องมูลค่าประเมิน

LatePost: คุณคิดว่าการกลั่นกรองความรู้เป็นทางออกที่ดีที่สุดในการพัฒนาความสามารถของโมเดลหรือไม่? ดูเหมือนว่าความเร็วในการลอกเลียนแบบของผู้ตามจะตามไม่ทันความเร็วของนวัตกรรมชั้นนำเสมอ?

หลิว อี้: ฉันเคยมีมุมมองว่าในปี 2024 ในระยะสั้น นวัตกรรมโครงสร้างโมเดลเองเป็น moat (ความได้เปรียบเชิงการแข่งขัน) ต่อมา moat อาจขยายไปถึงพลังการคำนวณ จากนั้น moat ก็คือโครงสร้างพื้นฐาน (infrastructure) และพลังงาน ฉันสังเกตว่าปัจจุบันกำลังพัฒนาไปตามแนวโน้มนี้

LatePost: การกลั่นกรองความรู้จัดอยู่ในส่วนไหนของกรอบแนวคิด moat ของคุณ?

หลิว อี้: ฉันว่าจัดอยู่ในพลังการคำนวณ ในทางทฤษฎี ถ้าลองมากขึ้นก็อาจทำได้ แต่เวลาอาจไม่อำนวย

LatePost: สุดท้ายแล้วการต่อต้านการกลั่นกรองความรู้ปกป้องอะไร?

หลิว อี้: การต่อต้านการกลั่นกรองความรู้เป็นข้อเสนอเท็จ ในทางทฤษฎี การกลั่นกรองความรู้ไม่สามารถป้องกันได้ ตามธรรมชาติของมนุษย์ ตราบใดที่ประสิทธิภาพในการกลั่นกรองความรู้จากโมเดลของคุณสูงกว่าประสิทธิภาพในการสร้างข้อมูลเพื่อฝึกโมเดลเอง ฉันก็จะกลั่นกรองความรู้จากโมเดลของคุณก่อนแน่นอน

LatePost: คุณคิดว่าการต่อต้านการกลั่นกรองความรู้ของบริษัท AI ชั้นนำของสหรัฐฯ เป็นสงครามที่ล้มเหลวอย่างแน่นอนหรือไม่?

หลิว อี้: ใช่ มุมมองของฉันเป็นแบบนั้น

LatePost: หากในทางเทคนิคล้มเหลวแน่นอน ทำไมบริษัท AI ชั้นนำของสหรัฐฯ ยังมุ่งมั่นเช่นนี้?

หลิว อี้: พวกเขาต้องการรักษาความเป็นผู้นำทางเทคโนโลยี เมื่อเร็วๆ นี้ OpenAI อ้างว่าใช้ AI agent ประมาณ 10,000 ตัว ใช้เวลา 88 ชั่วโมง พิสูจน์ทางคณิตศาสตร์หนึ่งในเจ็ด "ปัญหารางวัลมิลเลนเนียม" สำเร็จ ตัวอย่างเช่น สมมติว่า DeepSeek ประกาศปลายปีนี้ว่าตนแก้ปัญหารางวัลมิลเลนเนียมทั้งเจ็ดข้อได้หมดแล้ว และเขียนในรายงานทางเทคนิคว่า ฉันใช้ต้นทุนเพียง 1/10 ของ OpenAI ก็ทำงานสำเร็จ นักลงทุนสหรัฐฯ อาจถามว่า ทำไมคุณต้องใช้เงินมากขนาดนี้ แต่ทำได้ไม่ดีเท่าคนอื่น? มูลค่าประเมินของ OpenAI ก็อาจตกลง

ดังนั้น แก่นแท้ของพฤติกรรมต่อต้านการกลั่นกรองความรู้ของ OpenAI และบริษัทโมเดลชั้นนำของสหรัฐฯ อื่นๆ ยังคงเป็นตรรกะทางธุรกิจ ไม่ใช่แค่ตรรกะของการพัฒนาเทคโนโลยี:

Anthropic หนึ่งคือต้องการเก็บข้อมูล สร้าง data flywheel (วงจรข้อมูล) ของตัวเอง สองคือต้องการทำให้ ARR ของตัวเองดูดีขึ้น เพื่อเตรียม IPO

ตรรกะของ OpenAI คล้ายกัน ทำไม OpenAI ถึงแจกบัตรรีเซ็ตให้ทุกคนตลอด นั่นไม่เท่ากับการแจกเงินทุกครั้งที่กดหรือ ก็เพื่อเก็บข้อมูล และทำให้งบการเงินดูดีขึ้น

LatePost: เมื่อวันที่ 12 กันยายน ดาริโอ (Dario Amodei) ผู้ก่อตั้ง Anthropic โพสต์เรียกร้องให้ทั้งอุตสาหกรรมชะลอความเร็วในการทำซ้ำโมเดล AI ชั้นนำ คุณมองอย่างไร?

หลิว อี้: ฉันคิดว่าพวกเขาน่าจะเห็นคอขวดบางอย่าง คอขวดอาจมีสามปัจจัย: หนึ่งคือข้อมูล สองคือพลังการคำนวณ สามคือโครงสร้างพื้นฐาน/พลังงาน แต่คอขวดเฉพาะคืออะไร ตอนนี้ฉันยังบอกไม่ได้ อาจเป็นทั้งสามปัจจัย

ทุนล้วนแสวงหากำไร ในทางทฤษฎี หากฉันสร้าง AGI ได้ ฉันก็เก็บเกี่ยวผลประโยชน์จากทั่วโลกได้ ฉันไม่มีเหตุผลที่จะหยุดพัฒนา แค่ "ลุยเลย" ทำให้ AGI เป็นจริงก็พอ พวกเขาน่าจะเจอคอขวด จึงสวมหมวกความปลอดภัย AI ออกมาเรียกร้องทุกคนว่า AI อันตรายเกินไป เรามานั่งคุยกันก่อนว่าจะจำกัดการพัฒนา AI อย่างไร

LatePost: คุณคิดว่าสาเหตุที่แท้จริงที่บริษัทโมเดลชั้นนำต่อต้านการกลั่นกรองความรู้คืออะไร?

หลิว อี้: เพิ่มต้นทุนการกลั่นกรองความรู้ของคู่แข่ง รักษาความได้เปรียบในการเป็นผู้นำของตัวเอง พวกเขาอาจตัดสินว่าโมเดลของจีนจะตามทันพวกเขาในไม่ช้า แต่คิดวิธีที่ดีกว่าในการรักษาความได้เปรียบไม่ออก จึงได้แต่เพิ่มข้อจำกัด และครองพื้นที่ความคิดเห็นสาธารณะก่อน

จากมุมมองของฉันทามติพื้นฐานในอุตสาหกรรม การกลั่นกรองความรู้เป็นปัญหาความปลอดภัยที่ใหญ่มาก เทียบเท่ากับการขโมยทรัพย์สินทางปัญญา แต่จากมุมมองเชิงปฏิบัติ โดยพื้นฐานแล้วนี่คือความเท่าเทียมทาง AI การกลั่นกรองความรู้เป็นวิธีหนึ่งในการสร้างสมดุลตลาดอย่างรวดเร็ว เพราะมีคู่แข่งจำนวนมาก บริษัทโมเดลใดบริษัทหนึ่งจึงไม่สามารถผูกขาด ครองตลาดเพียงรายเดียว และตั้งราคาตามใจชอบได้

LatePost: คุณพูดถึงด้านบวกของการกลั่นกรองความรู้ แล้วอีกด้านหนึ่ง การกลั่นกรองความรู้อาจนำอันตรายแฝงอะไรมาสู่อุตสาหกรรมโดยรวมและผู้ใช้ทั่วไป?

หลิว อี้: สำหรับอุตสาหกรรม สไตล์เอาต์พุตของทุกคนจะเหมือนกัน โมเดลจะสืบทอดรูปแบบความล้มเหลวบางอย่างจาก teacher model (โมเดลครู) สำหรับผู้ใช้ มีความเสี่ยงเรื่องการรั่วไหลของความเป็นส่วนตัว

LatePost: คุณคิดว่าโดยรวมแล้ว วงการความปลอดภัย AI ซึ่งรวมถึงการโจมตีและป้องกันการกลั่นกรองความรู้ อยู่ในสถานะใด และเผชิญความท้าทายอะไร?

หลิว อี้: สิ่งที่ฉันสนใจมากกว่าคือความตึงเครียดเชิงโครงสร้างระหว่างความปลอดภัย AI และแรงจูงใจทางธุรกิจ

บริษัทโมเดลทุ่มทรัพยากรจำนวนมากเพื่อความปลอดภัยจริง แต่ในบางสถานการณ์ มาตรการความปลอดภัยที่เข้มงวดขึ้นอาจกระทบความสามารถของโมเดล ทำให้การเปิดตัวผลิตภัณฑ์ล่าช้า หรือลดประสบการณ์ผู้ใช้ ดังนั้นเป้าหมายด้านความปลอดภัยและเป้าหมายด้านการแข่งขันจึงไม่สอดคล้องกันเสมอไป ดังนั้น คำถามด้านธรรมาภิบาลที่สำคัญคือ ทำอย่างไรให้การลงทุนด้านความปลอดภัยสอดคล้องกับแรงจูงใจทางธุรกิจของบริษัทมากขึ้น อย่างน้อยในระยะสั้น ยากที่จะหาทางออกที่สง่างามซึ่งทั้งแก้ปัญหาความปลอดภัยและไม่เสียสละประสิทธิภาพของโมเดล

LatePost: คุณคิดว่าการโจมตีด้วยการกลั่นกรองความรู้จะพัฒนาไปอย่างไรในอนาคต?

หลิว อี้: การโจมตีและการป้องกันจะดำเนินต่อไป จนถึงสมดุลพลวัต อาจมีหลายสำนัก: หนึ่งคือไม่เอาสายโซ่ความคิด เริ่มกลั่นโดยตรง สำรวจว่าโมเดลชั้นนำจะถูกกลั่นออกมาเป็นอย่างไร สองคือในกรณีที่ต้องการสายโซ่ความคิด ก็หาทางได้สายโซ่ความคิดดั้งเดิม สามคือสังเคราะห์สายโซ่ความคิดด้วยตัวเอง

LatePost: เพื่อหลีกเลี่ยงการรั่วไหลของข้อมูลส่วนตัว คุณมีคำแนะนำอะไรให้ผู้ใช้ทั่วไป?

หลิว อี้: อย่าใช้พร็อกซี เมื่อใช้บางโมเดล หากมีตัวเลือกให้ติ๊กว่ายินยอมให้ข้อมูลถูกนำไปฝึกหรือไม่ ก็อย่าเลือกยินยอม อย่างอื่นคุณก็ทำอะไรได้ไม่มากนัก เพราะเราก็เป็นเบี้ยล่างอยู่ดี