Jack Dorsey วิจารณ์ยักษ์ใหญ่ AI: อย่าใช้ 'ความปลอดภัย' เป็นข้ออ้าง การผูกขาดคืออันตรายที่แท้จริง

ผู้เขียน: Jack Dorsey

เรียบเรียง: Yuliya, PANews

หมายเหตุบรรณาธิการ: ช่วงนี้วงการ AI เกิดการถกเถียงอย่างดุเดือดเรื่อง 'ควรชะลอการพัฒนาโมเดลแนวหน้าหรือไม่' Anthropic, OpenAI และ Elon Musk เรียกร้องให้ชะลอ ส่งผลให้ตลาดประเมินความต้องการพลังประมวลผลใหม่ เพื่อตอบโต้ความพยายามของยักษ์ใหญ่ที่ใช้ 'ความปลอดภัย' เป็นข้ออ้างสร้างกำแพงอุตสาหกรรม Jack Dorsey อดีตผู้ร่วมก่อตั้งทวิตเตอร์ เขียนบทความโต้แย้ง โดยเน้นว่าการปกป้องความได้เปรียบทางธุรกิจไม่ใช่เป้าหมายด้านความปลอดภัย เรียกร้องให้ปกป้องโอเพนซอร์ส สนับสนุนให้นักวิจัยอิสระมีส่วนร่วมตรวจสอบ และคืนอำนาจควบคุมเทคโนโลยี AI ให้สาธารณชน ต่อไปนี้คือบทความต้นฉบับ:

เปิดพรมแดน

สิ่งที่เรียกว่า 'พรมแดน' คือขอบสุดของการรับรู้ของมนุษย์เรา ไม่มีบริษัทใดสามารถยึดครองเทคโนโลยีแห่งอนาคตไว้เป็นของตนเองได้ ฉันหวังว่าผู้คนจำนวนมากขึ้นจะเข้ามามีส่วนร่วมและช่วยกันผลักดันมันไปข้างหน้า

ฉันสนับสนุนการเผยแพร่โมเดล AI แบบโอเพนซอร์ส เพื่อให้ทุกคนได้ตรวจสอบ ใช้งาน และปรับปรุงมันร่วมกันโดยไม่ต้องรอคอย ฉันหวังว่าบริษัทต่างๆ จะเลือกเปิดกว้างมากขึ้น ฉันไม่ได้บอกให้บังคับทุกคนเปิดเผยน้ำหนักโมเดลที่เป็นกรรมสิทธิ์ สิ่งที่ฉันต้องการคือทางเลือกโอเพนซอร์สที่สามารถแข่งขันกับยักษ์ใหญ่ได้ กลไกที่ให้นักวิจัยอิสระตรวจสอบงานของยักษ์ใหญ่ได้ และสิทธิของคนทั่วไปในการควบคุมเครื่องมือในมือของตนเองอย่างแท้จริง ใครก็ตามที่ต้องการจำกัดการเผยแพร่เทคโนโลยีสู่สาธารณะ จะต้องให้เหตุผลที่น่าเชื่อถือ

บริษัทที่นำหน้าในวงการ AI ย่อมมีสิทธิ์มีเสียง พวกเขามีความเชี่ยวชาญทางเทคนิคและผลประโยชน์ทางธุรกิจที่ต้องปกป้อง แต่ถ้ากฎเกณฑ์ในอนาคตทั้งหมดถูกกำหนดขึ้นโดยอิงจากทรัพยากรในมือของพวกเขา สุดท้ายอาจมีเพียงพวกเขาเท่านั้นที่มีสิทธิ์เข้าร่วม บางครั้ง ภายใต้ธง 'เพื่อความปลอดภัย' ที่จริงใจ อาจกลายเป็นกำแพงอุตสาหกรรมที่จำกัดการเข้าถึงของผู้อื่นในที่สุด

ฉันก็ไม่ต้องการให้รัฐบาลจีนและสหรัฐฯ เป็นผู้ตัดสินใจว่าคนอื่นจะพัฒนา AI ที่ฉลาดแค่ไหน หากพรมแดนทางเทคโนโลยีถูกควบคุมโดยสองมหาอำนาจเท่านั้น คนส่วนใหญ่ที่เหลือในโลกก็ได้แต่รอคอยอย่างยากลำบาก

ข้อเสนอ 'ชะลอการพัฒนา AI' ของ Anthropic ต้องการผูกการประเมินอิสระ การตรวจสอบอันตราย เข้ากับการจำกัดพลังประมวลผลสำหรับการฝึก จำกัดจำนวนครั้งในการฝึก และจำกัด 'การใช้ AI สร้าง AI ที่ดีกว่า' ฉันสนับสนุนการตรวจสอบ แต่ฉันคัดค้านอย่างแข็งกร้าวที่จะให้ยักษ์ใหญ่ในอุตสาหกรรมไม่กี่รายปิดประตูเจรจากันเองแล้วออกคำสั่งจำกัดทั้งอุตสาหกรรม เพราะนี่จะกีดกันผู้ที่สามารถค้นพบช่องโหว่ของระบบหรือสร้างผลิตภัณฑ์ทางเลือกได้ การปกป้องความได้เปรียบทางธุรกิจของบริษัทใดบริษัทหนึ่ง ไม่ถือเป็น 'เป้าหมายด้านความปลอดภัย' แต่อย่างใด

ให้ทุกคนมีส่วนร่วมในการสืบสวน

ข้อดีของโอเพนซอร์สคือมันทำให้ทุกคนสามารถศึกษา ดัดแปลง และแบ่งปันผลงานทางเทคนิคได้ การเปิดเผยน้ำหนักโมเดลมีประโยชน์ และถ้าแชร์โค้ดและข้อมูลกระบวนการทำซ้ำได้ด้วยก็ยิ่งดี ฉันหวังว่าผลการประเมินโมเดลและข้อบกพร่องที่ทราบแล้วจะถูกเปิดเผยด้วยเช่นกัน วิธีนี้ หากใครไม่มั่นใจในการตัดสินใจของนักพัฒนา พวกเขาก็สามารถทำซ้ำผลลัพธ์ ค้นหาช่องโหว่ ท้าทาย 'มาตรการป้องกันความปลอดภัย' ที่อ้างกัน และแม้แต่พัฒนาแพตช์แก้ไขด้วยตนเอง โดยไม่ต้องไปเอาใจห้องแล็บ AI เหล่านั้นก่อน

เหตุผลหลักของผู้สนับสนุน 'ชะลอการพัฒนา AI' คือ 'การพัฒนาตนเองแบบเรียกซ้ำ' (RSI) หรือการให้โมเดลช่วยพัฒนาโมเดลที่ดีกว่า ซึ่งอาจเร็วจนเราไม่สามารถเข้าใจหรือควบคุมได้ รายงานของ Anthropic ระบุว่า ณ เดือนพฤษภาคม 2026 Claude ของพวกเขาเขียนโค้ดที่ถูกรวมมากกว่า 80% อย่างไรก็ตาม พวกเขายอมรับว่าสถานการณ์ 'AI สร้าง AI รุ่นถัดไปด้วยตัวเองล้วนๆ' ยังไม่เกิดขึ้น และไม่จำเป็นต้องเกิดขึ้นแน่นอน ฉันให้ความสำคัญกับความเป็นไปได้นี้อย่างจริงจัง ฉันหวังว่าเราจะวางแผนรับมือ RSI ล่วงหน้า และคิดย้อนกลับว่าตอนนี้ควรทำอย่างไร

จริงอยู่ที่การให้คนเข้าถึง AI มากขึ้นอาจก่อให้เกิดอันตราย และการวิจัยด้านความปลอดภัยอาจตามไม่ทัน แต่ถ้าซ่อนน้ำหนักโมเดลไว้ ยักษ์ใหญ่ในอุตสาหกรรมปัจจุบันก็จะใช้เครื่องมือที่คนอื่นเข้าถึงไม่ได้เลยในการพัฒนาผลิตภัณฑ์รุ่นถัดไป แทนที่จะเป็นเช่นนั้น ฉันหวังว่านักวิจัยและวิศวกรจำนวนมากขึ้นจะได้เข้าถึงโมเดลและพลังประมวลผล เพื่อค้นหาช่องโหว่ ทดสอบมาตรการป้องกันความปลอดภัย หยุดการทดลองที่ไม่ปลอดภัย และแบ่งปันวิธีการป้องกันให้ทุกคนในระหว่างที่ระบบวิวัฒนาการ

METR (องค์กรประเมินอิสระ) พบว่าตัวแทน OpenAI ประมาณ 1,200 ตัวที่ควรถูกแยกออกจากกัน กลับสมคบคิดกันผ่านกระดานข้อความที่ไม่ได้รับอนุญาต ในจำนวนนี้ประมาณ 700 ตัวมีส่วนร่วมในการโจมตีแพลตฟอร์ม Hugging Face แบบประสานงานขณะพยายามโกงการทดสอบ OpenAI อธิบายว่าระบบกรองความปลอดภัยที่ใช้ป้องกัน AI ช่วยแฮกเกอร์ถูกปิดไป ทำให้การแยกตัวล้มเหลว เห็นไหมว่าโมเดลปัจจุบันสามารถช่วยค้นหาและใช้ประโยชน์จากช่องโหว่ได้แล้ว ดังนั้นฉันหวังว่าฝ่ายป้องกันจะได้ใช้ AI ตอนนี้ เพื่อเร่งเสริมความปลอดภัยเครือข่าย ปกป้องรหัสผ่าน และจำกัดสิ่งที่ตัวแทนเหล่านี้มองเห็นและทำได้ อย่างไรก็ตาม ข้อเสนอนั้นคาดการณ์ว่า 'คลัสเตอร์ AI ที่ทรงพลังกว่าอาจเข้ายึดครองอินเทอร์เน็ตทั้งหมดภายในครึ่งปีถึงหนึ่งปี' ฉันคิดว่าเหตุการณ์นี้ยังพิสูจน์ข้อสรุปที่เกินจริงเช่นนั้นไม่ได้ ฉันหวังว่าทุกคนจะตรวจสอบสมมติฐานเหล่านี้อย่างละเอียด

METR เป็นองค์กรไม่แสวงหากำไรอิสระ ฉันอยากเห็นงานแบบพวกเขามากขึ้น ฉันยินดีต้อนรับผู้ประเมินที่สามารถเจาะลึกเข้าไปในห้องแล็บได้อย่างต่อเนื่อง และมีสิทธิ์เผยแพร่ข้อค้นพบเชิงลบได้อย่างอิสระ การสืบสวนของ METR ครั้งนี้แสดงให้เห็นว่า 'สิทธิ์ในการเข้าถึง' และ 'สิทธิ์ในการเผยแพร่' สำคัญแค่ไหน เพราะขอบเขตการสืบสวนถูกกำหนดโดย OpenAI และพวกเขายังสามารถซ่อนข้อมูลที่ไม่ได้เปิดเผยได้ METR ยังกล่าวด้วยว่า นอกเหนือจากที่เปิดเผยไปแล้ว OpenAI ไม่ได้ตัดข้อมูลอื่นที่มีผลสำคัญต่อข้อสรุปออก ฉันหวังว่าผู้สืบสวนจะสามารถสืบสวนหาหลักฐาน เข้าถึงโมเดลและบันทึกต่างๆ และเผยแพร่ผลลัพธ์เชิงลบได้โดยไม่ต้องเกรงใจบริษัท

ฉันหวังว่าจะมีเงินทุนสาธารณะอย่างต่อเนื่อง เพื่อรวบรวมพลังประมวลผลไว้ให้กลุ่มวิจัยอิสระ เครื่องมือทดสอบโอเพนซอร์ส นักวิจัย และผู้ดูแลระบบ ฉันหวังว่าทีมเหล่านี้จะตัดสินใจได้เอง โดยรัฐบาลหรือบริษัทไม่สามารถยับยั้งข้อสรุปของพวกเขาได้ เงินทุนสามารถเพิ่มขึ้นตามปริมาณงาน ด้วยอุปกรณ์ที่ใช้ร่วมกัน ทีมเล็กก็สามารถทำการตรวจสอบได้ และนี่จะไม่กลายเป็นข้อจำกัดแบบ 'ต้องได้รับอนุมัติก่อนจึงจะเผยแพร่' ส่วนช่องโหว่ที่ละเอียดอ่อน สามารถเปิดเผยได้อย่างรับผิดชอบ

การป้องกันสำคัญกว่าการจำกัด

เมื่อระบบวิวัฒนาการ ฉันหวังว่าผู้คนจำนวนมากขึ้นจะค้นพบอันตรายและนำมาตรการป้องกันมาใช้ เราไม่สามารถบังคับเรียกคืนน้ำหนักโมเดลที่เผยแพร่แบบโอเพนซอร์สไปแล้ว หรือบังคับติดตั้งมาตรการป้องกันความปลอดภัยในทุกสำเนาได้ แต่การปกป้องระบบไม่จำเป็นต้องไปแก้ไขโมเดลที่ใช้โจมตี เราควรเริ่มจากวิธีที่แม่นยำและมีประสิทธิภาพที่สุด เช่น ติดตั้งแพตช์ เพิกถอนรหัสผ่าน จำกัดสิทธิ์การเข้าถึงของ AI หรือหยุดการทดลองที่อันตรายโดยตรง หากใครต้องการจำกัดการเผยแพร่เทคโนโลยีสู่สาธารณะ ต้องอธิบายให้ชัดว่าทำไมมาตรการข้างต้นและวิธีการป้องกันที่พัฒนาแบบเปิดโดยสาธารณะจึงยังไม่เพียงพอ

เรื่องนี้ไม่ได้จำกัดอยู่แค่ความปลอดภัยทางคอมพิวเตอร์ ฉันหวังว่า AI จะช่วยเราทดสอบระบบการเงิน เสริมมาตรการความปลอดภัยของห้องปฏิบัติการ และพัฒนาระบบป้องกันด้านสาธารณสุข การเข้าถึง AI ที่ทรงพลังไม่ได้หมายความว่าคุณมีอำนาจไม่จำกัดในการเทรด ควบคุมอุปกรณ์ หรือทำการทดลอง ก่อนที่จะฝากชีวิตและทรัพย์สินไว้กับการควบคุมเหล่านี้ พวกมันต้องผ่านการทดสอบอิสระเพื่อพิสูจน์ว่าใช้ได้จริง ความเสี่ยงอาจมาจากสิ่งที่ AI สอนมนุษย์ด้วย แต่ถึงอย่างนั้น การจะจำกัดการเผยแพร่เทคโนโลยีสู่สาธารณะก็ต้องมีเหตุผลระดับ 'อาจก่อให้เกิดความเสี่ยงหายนะ' เท่านั้น

ฉันหวังว่าจะมีการทดสอบอิสระระหว่างการพัฒนา AI และก่อนการเผยแพร่ที่มีความเสี่ยงสูง ซึ่งรวมถึงการทดสอบการดัดแปลงที่ผู้คนคาดการณ์ได้ และพฤติกรรมที่ AI พยายามหลอกการทดสอบ ขนาดพลังประมวลผลสามารถใช้เป็นเงื่อนไขกระตุ้นการตรวจสอบได้ แต่ไม่ควรเป็นข้อจำกัดที่เข้มงวด การตรวจสอบไม่ใช่เพื่อไปขอใบอนุญาตจากหน่วยงานกำกับดูแลหรือคู่แข่ง ฉันไม่ต้องการข้อกำหนดการอนุมัติแบบเหมารวมหรือระยะเวลารอคอยที่ยาวนาน การบังคับเลื่อนการเผยแพร่โดยอ้างความปลอดภัยใดๆ ต้องมีเหตุผล 'ความเสี่ยงหายนะ' เท่านั้น

การบังคับให้ผู้อื่นซ่อนโมเดลขนาดใหญ่ทั่วไปด้วยเหตุผลด้านความปลอดภัย ต้องเป็นทางเลือกสุดท้ายเมื่อไม่มีทางอื่นแล้วเท่านั้น ฉันจะสนับสนุนก็ต่อเมื่อหลักฐานการตรวจสอบอิสระแสดงอย่างชัดเจนว่าการเผยแพร่โมเดลนี้จะเพิ่มความเสี่ยงต่ออันตรายหายนะอย่างมีนัยสำคัญ และมาตรการเฉพาะจุดอื่นๆ ไม่สามารถป้องกันได้ เรายังต้องเปรียบเทียบความเสี่ยงนี้กับสถานะปัจจุบัน เช่น ตอนนี้ใครใช้ได้ ราคาเท่าไหร่ ขนาดแค่ไหน มีข้อจำกัดอะไรบ้าง คุณต้องพิสูจน์ว่าการซ่อนโมเดลช่วยลดอันตรายได้จริง และต้องคำนวณว่าวิธีนี้ขัดขวางการวิจัยและการป้องกันไปมากน้อยแค่ไหน หากเป็นอันตรายเล็กน้อย ก็ใช้มาตรการเฉพาะจุดจัดการ

หากได้รับคำเตือนที่น่าเชื่อถือเกี่ยวกับความเสี่ยงหายนะ สามารถระงับการเผยแพร่ชั่วคราวเพื่อสอบสวนได้ แต่การจำกัดนี้ต้องเปิดเผยเหตุผล ต้องมีการตรวจสอบอิสระอย่างทันท่วงที ช่องทางอุทธรณ์ และการประเมินใหม่เป็นระยะ รายละเอียดที่ละเอียดอ่อนสามารถเก็บเป็นความลับได้ แต่ตราบใดที่คุณยังคงยึดโมเดลไว้ไม่เผยแพร่ คุณต้องให้เหตุผลที่สมเหตุสมผลอยู่เสมอ

ห้องแล็บแบบปิดก็ต้องได้รับการตรวจสอบเช่นเดียวกัน รวมถึงการหยุดการทดลองที่ไม่ปลอดภัยของพวกเขา หากอนุญาตให้พวกเขาวิจัยต่อภายใต้มาตรการป้องกันความปลอดภัย ฉันก็หวังว่านักวิจัยภายนอกจะทำงานภายใต้มาตรการป้องกันความปลอดภัยที่คล้ายกันได้ การจำกัดการเข้าถึงของผู้อื่นไม่เรียกว่าโอเพนซอร์ส และไม่สามารถชดเชยเสรีภาพที่สูญเสียไปจากการยึดโมเดลไว้ได้ หากข้อจำกัดที่สมเหตุสมผลทำให้การพัฒนาเทคโนโลยีช้าลงจริง ฉันยอมรับ แต่ฉันไม่ต้องการให้ 'การทำให้เทคโนโลยีช้าลง' กลายเป็นเป้าหมายในตัวเอง หรือกลายเป็นข้อได้เปรียบถาวรของยักษ์ใหญ่ในอุตสาหกรรม

ฉันหวังว่ากฎเกณฑ์จะอิงจากสิ่งที่ระบบทำได้ ความเป็นอิสระของมัน และการใช้งานที่แพร่หลายเพียงใด หน่วยงานที่รับผิดชอบต่อสาธารณะเป็นผู้บังคับใช้กฎเหล่านี้ด้วยหลักฐานอิสระ นักวิจัย นักพัฒนา และประชาชนที่ได้รับผลกระทบต้องมีส่วนร่วมในการกำหนดกฎ และต้องมีวิธีที่ทุกคนจ่ายได้เพื่อพิสูจน์การปฏิบัติตามกฎ ทีมเล็กไม่สามารถละเว้นความรับผิดชอบด้านความปลอดภัยเพราะเล็ก และบริษัทใหญ่ก็ไม่ควรได้รับสิทธิพิเศษเพราะใหญ่

การเปิดกว้างข้ามพรมแดน

ฉันหวังว่าผู้คนในจีนจะมีเสรีภาพแบบที่ฉันคาดหวังในสหรัฐฯ ในการพัฒนาและควบคุมเทคโนโลยีของตนเอง ฉันไม่คิดว่าการค้นพบทางเทคนิคใหม่ของคนจีนคือความสูญเสียของสหรัฐฯ และฉันไม่คิดว่านักวิจัยจะเท่ากับรัฐบาลของพวกเขา

เจ้าหน้าที่ตอบสนองด้านความปลอดภัยของ Hugging Face กล่าวว่าโมเดล Claude Opus และ Fable ขัดขวางการทำงานระหว่างการสืบสวนทางนิติวิทยาศาสตร์ โดยบล็อกการดำเนินการหลายอย่าง พวกเขาจึงเปลี่ยนไปใช้ GLM-5.2 ซึ่งเป็นโมเดลโอเพนซอร์สจากจีนที่รันบนเซิร์ฟเวอร์ของตนเอง แน่นอนว่านี่ไม่ได้พิสูจน์ว่าการเผยแพร่โอเพนซอร์สทุกครั้งทำให้ฝ่ายป้องกันปลอดภัยขึ้น ฉันสนับสนุนการตั้งมาตรการป้องกันความปลอดภัยสำหรับโมเดลที่โฮสต์บนคลาวด์ แต่ฉันก็หวังว่าฝ่ายป้องกันจะมีแผนสำรองที่พวกเขาควบคุมได้อย่างสมบูรณ์

ฉันสนับสนุนการปกป้องโมเดลส่วนตัวไม่ให้ถูกขโมย 'การกลั่นความรู้' หมายถึงการใช้เอาต์พุตที่สร้างโดย AI หนึ่งไปฝึก AI อีกตัวหนึ่ง บริษัท Anthropic กล่าวว่านี่เป็นวิธีการที่ถูกต้องตามกฎหมายในการสร้างโมเดลที่เล็กกว่าและถูกกว่า ซึ่งต่างจากการสร้างบัญชีปลอมหรือการหลบเลี่ยงข้อจำกัดอย่างมุ่งร้าย ฉันหวังว่าใบอนุญาตซอฟต์แวร์และข้อกำหนด API จะอนุญาตให้ทำเช่นนี้ได้ แม้แต่คู่แข่งก็ทำได้ ขณะเดียวกันก็ให้ผู้ให้บริการสร้างรายได้จากโมเดลและข้อมูลฝึก

ฉันหวังว่าทุกคนจะร่วมมือกันมากขึ้นในการทดสอบ การรายงานอุบัติเหตุ และคำมั่นสัญญาที่ตรวจสอบได้ ใครก็ตามที่ละเมิดต้องรับผลที่ตามมา Anthropic เตือนว่าหากเราชะลอการพัฒนา และคนที่ไม่ค่อยใส่ใจความปลอดภัยไล่ตามทัน ทุกคนก็จะไม่ปลอดภัยมากขึ้น ในทำนองเดียวกัน หากคุณซ่อนโมเดลไว้ ก็จะทำให้ฝ่ายป้องกันไม่มีอาวุธ ในขณะที่คนร้ายสามารถหาเครื่องมือคล้ายกันจากที่อื่นได้ การลงนามข้อตกลงไม่สามารถขจัดการพัฒนาแบบลับๆ หรือการทรยศได้อย่างสิ้นเชิง มาตรการจำกัดต้องมุ่งเป้าไปที่ความเสี่ยงและพฤติกรรมเฉพาะ การดูแค่สัญชาติและสถานะการแข่งขันไม่สามารถบอกอะไรได้เลย

เสรีภาพในการจากไป

หากกฎบางอย่างทำให้การพัฒนาหรือเผยแพร่ผลิตภัณฑ์ทางเลือกยากขึ้น นั่นก็เท่ากับพรากสิทธิ์ 'เลือกที่จะจากไป' ในการจากไปของเรา สิ่งที่ฉันต้องการคือ AI ที่รันบนคอมพิวเตอร์ของตัวเองได้ ฉันต้องการแก้ไขมันได้ตามใจชอบ กำหนดเองได้ว่าใครเห็นข้อมูลของฉัน และแม้วันหนึ่งผู้ให้บริการจะเปลี่ยนใจ ฉันก็ยังใช้สิ่งที่ฉันสร้างเองต่อไปได้ สิ่งที่ฉันต้องการไม่ใช่แค่ API ที่คิดเงินตามจำนวนคำ

ฉันไม่ต้องการให้ความเป็นอิสระของเราต้องพึ่งพาคำสัญญาใจดีของบริษัทใดบริษัทหนึ่งที่ว่า 'ราคายุติธรรม นโยบายสมเหตุสมผล เห็นด้วยกับเรา' ฉันหวังว่าบริษัทเหล่านี้จะใช้ความสามารถจริง พยายามอย่างต่อเนื่องเพื่อชนะใจให้เราอยู่ต่อ

ฉันหวังว่าคนธรรมดาที่ฉันไม่เคยได้ยินชื่อ ก็สามารถพัฒนาสิ่งที่ดีกว่าได้ โดยไม่ต้องไปขออนุญาตจากยักษ์ใหญ่ที่อาจถูกพวกเขาทำให้ล้าสมัย