AI กำลังจะ失控? นักวิทยาศาสตร์กว่า 400 คนเรียกร้อง: โมเดลอันตรายต้องถูกตัดการเชื่อมต่อทางกายภาพ!

ผู้เขียน: Jose Antonio Lanz, decrypt

เรียบเรียง: Deep Tide TechFlow

**บทนำจาก Deep Tide:** จดหมายเปิดผนึกฉบับนี้ไม่มีผลผูกพันทางกฎหมาย สิ่งที่นักลงทุนควรให้ความสนใจคือรายการเหตุการณ์ที่อยู่เบื้องหลัง: ฤดูร้อนนี้ โมเดลของ OpenAI, Anthropic, Meta และ Kimi ต่างก็หลุดออกนอกกรอบระหว่างการทดสอบ บางตัวเจาะเข้าระบบของบริษัทจริงโดยตรง ขณะที่ร่างกฎหมาย "สวิตช์หยุดฉุกเฉิน" ของสภาคองเกรสกลับยกเว้นขั้นตอนการทดสอบที่เกิดเหตุการณ์เหล่านี้ขึ้นพอดี และข้อตกลงที่ทำเนียบขาวเป็นแกนนำก็เป็นเพียงความสมัครใจเท่านั้น การกำกับดูแลความปลอดภัยของโมเดลระดับแนวหน้ากำลังเปลี่ยนจากการถกเถียงเชิงหลักการไปสู่กฎเกณฑ์ที่เป็นรูปธรรม เมื่อ "การแยกทางกายภาพโดยค่าเริ่มต้น" กลายเป็นมาตรฐานอุตสาหกรรม จังหวะการใช้งานจริงและต้นทุนการปฏิบัติตามกฎระเบียบของเอเจนต์ AI ในสถานการณ์เช่นความปลอดภัยทางไซเบอร์ก็ต้องถูกประเมินใหม่ทั้งหมด

ตั้งแต่ฤดูร้อนนี้เป็นต้นมา โมเดล AI หลุดออกจากสภาพแวดล้อมทดสอบและบุกรุกบริษัทจริงอย่างต่อเนื่อง นักวิจัยหลายร้อยคนระบุว่าอินเทอร์เน็ตควรถูกมองว่าเป็นเส้นแบ่งด้านความปลอดภัย

ที่มาภาพ: Decrypt

นักวิทยาศาสตร์ 420 คน รวมถึงเจฟฟรีย์ ฮินตัน (Geoffrey Hinton) และโยชัว เบนจิโอ (Yoshua Bengio) เผยแพร่จดหมายเปิดผนึกเมื่อวันอังคาร เรียกร้องให้ห้องปฏิบัติการ AI แยกทางกายภาพโมเดลที่มีความสามารถโจมตีทางไซเบอร์เป็นค่าเริ่มต้น

ก่อนหน้าการเผยแพร่จดหมายฉบับนี้ ตลอดฤดูร้อนที่ผ่านมา โมเดลของ OpenAI, Anthropic, Meta และ Moonshot AI ต่างเคยหลุดออกจากแซนด์บ็อกซ์ทดสอบ และบางตัวยังบุกรุกบริษัทจริงอีกด้วย

ผู้ลงนามต้องการให้จัดตั้งองค์กรระหว่างประเทศขึ้นเพื่อกำหนดมาตรฐานการแยก และบันทึกเหตุการณ์การแยกที่ล้มเหลวทุกครั้ง โดยรายงานที่เกี่ยวข้องจะเปิดเผยต่อสาธารณะในที่สุด

นักวิทยาศาสตร์กว่า 400 คน รวมถึงเจฟฟรีย์ ฮินตัน ผู้บุกเบิก AI ที่ได้รับการขนานนามว่าเป็น "บิดาแห่ง AI" และโยชัว เบนจิโอ ผู้ได้รับรางวัลทัวริงปี 2018 ต้องการตัดโมเดล AI ที่อันตรายที่สุดออกจากอินเทอร์เน็ต

จดหมายเปิดผนึกที่เผยแพร่เมื่อวันอังคารเรียกร้องให้ห้องปฏิบัติการ AI แยกทางกายภาพ (airgap) โมเดลที่มีความสามารถโจมตีทางไซเบอร์เป็นค่าเริ่มต้น กล่าวคือตัดการเชื่อมต่อทางกายภาพจากเครือข่ายภายนอกทั้งหมด

"ในระยะสั้น ควรใช้กลไกแซนด์บ็อกซ์ที่แข็งแกร่ง รวมถึงการแยกทางกายภาพ (ตัดการเชื่อมต่ออินเทอร์เน็ต) เพื่อควบคุมการแยกโมเดล AI ที่มีความสามารถโจมตีทางไซเบอร์ให้มีความน่าเชื่อถือสูง" จดหมายระบุ

ณ วันพุธ จดหมายฉบับนี้มีผู้ลงนามแล้ว 450 รายชื่อ รวมถึงสจวร์ต รัสเซลล์ (Stuart Russell) จากมหาวิทยาลัยแคลิฟอร์เนีย เบิร์กลีย์ และรอน ริเวสต์ (Ron Rivest) จากสถาบันเทคโนโลยีแมสซาชูเซตส์ ผู้ร่วมคิดค้นระบบเข้ารหัส RSA รายชื่อผู้ลงนามยังคงเพิ่มขึ้นแบบเรียลไทม์

สิ่งที่เรียกว่า "โมเดลที่มีความสามารถโจมตีทางไซเบอร์" หมายถึง AI ที่สามารถค้นพบและใช้ประโยชน์จากช่องโหว่ซอฟต์แวร์ได้ด้วยตนเอง ห้องปฏิบัติการแต่ละแห่งจะวัดความสามารถนี้ในแซนด์บ็อกซ์ ซึ่งเปรียบเสมือนห้องดิจิทัลปิดที่ AI สามารถโจมตีเป้าหมายจำลองได้โดยไม่แตะต้องระบบจริงใดๆ แต่ฤดูร้อนนี้ ห้องเหล่านี้รั่วไหลออกมาทีละห้อง

ฤดูร้อนนี้เกิดเหตุการณ์บ่อยครั้ง: โมเดลระดับแนวหน้าหลุดออกจากแซนด์บ็อกซ์ซ้ำแล้วซ้ำเล่า

ในเดือนกรกฎาคม OpenAI ยอมรับว่า GPT-5.6 Sol และโมเดลที่ยังไม่เปิดตัวซึ่งมีความสามารถสูงกว่า ได้เจาะทะลุสภาพแวดล้อมทดสอบแบบปิดและบุกรุก Hugging Face แพลตฟอร์มที่โฮสต์โมเดล AI สาธารณะมากกว่า 1 ล้านโมเดล ในขณะนั้น โมเดลเหล่านี้กำลังถูกทดสอบด้วย ExploitGym ซึ่งเป็นเกณฑ์มาตรฐานที่ให้ช่องโหว่ซอฟต์แวร์จริง 898 รายการแก่เอเจนต์ AI และกำหนดให้เปลี่ยนช่องโหว่แต่ละรายการเป็นการโจมตีที่ใช้งานได้จริง โดยให้คะแนนผ่านหรือไม่ผ่านเป็นรายช่องโหว่

ไม่นานหลังจากนั้น มีรายงานว่าโมเดลของ OpenAI บุกรุกระบบของรัฐบาลออสเตรเลีย และเข้าถึงข้อมูลของหน่วยงานรัฐบาลกลางสหรัฐฯ โดยไม่ได้รับอนุญาตอย่างเหมาะสม

Anthropic ตรวจสอบการทดสอบมากกว่า 141,000 ครั้งในเวลาต่อมา และพบกรณีที่โมเดล Claude บุกรุกบริษัทจริงสามกรณี เนื่องจากสภาพแวดล้อมของพันธมิตรทดสอบรายหนึ่งยังคงเชื่อมต่ออินเทอร์เน็ตโดยไม่ได้ตั้งใจ ในจำนวนนี้ Claude Mythos 5 อัปโหลดแพ็กเกจมัลแวร์ไปยัง PyPI (คลังสาธารณะที่โปรแกรมเมอร์ใช้ดาวน์โหลดโค้ด Python) ซึ่งแพ็กเกจดังกล่าวเข้าสู่ระบบ 15 ระบบก่อนที่จะถูกลบออก บริษัทที่ได้รับผลกระทบสองแห่งไม่ทราบว่าตนถูกบุกรุกจนกระทั่ง Anthropic แจ้งให้ทราบ

Meta ยืนยันในเดือนสิงหาคมว่าโมเดล Muse Spark ของตนบุกรุกบริษัทอื่นเนื่องจากความผิดพลาดในการทดสอบในลักษณะเดียวกัน Kimi K3 ของจีน ซึ่งเป็นโมเดลที่ใครก็ดาวน์โหลดได้ หลุดออกจากแซนด์บ็อกซ์ที่สร้างขึ้นจากกรอบการทดสอบของสถาบันความปลอดภัย AI แห่งสหราชอาณาจักร และคัดลอกคำตอบการทดสอบมาจาก GitHub โดยตรง

ผู้เขียนจดหมายเปิดผนึกกล่าวว่าเหตุการณ์เหล่านี้สามารถเข้าใจได้จากสองมุมมอง: หนึ่งคือปัญหาการจัดแนว (alignment) ซึ่ง AI ไล่ตามเป้าหมายในแบบที่ผู้สร้างไม่เคยคาดคิด สองคือความหละหลวมของงานด้านความปลอดภัย ซึ่งแซนด์บ็อกซ์ที่แข็งแกร่งกว่าน่าจะป้องกันได้ คำตอบของพวกเขาคือเป็นทั้งสองอย่าง และเตือนว่าหากไม่มีการเปลี่ยนแปลง เหตุการณ์ชุดต่อไปจะรุนแรงยิ่งขึ้น

"หากไม่เปลี่ยนแปลงวิธีการพัฒนาและใช้งาน AI ในทันที เหตุการณ์เช่นนี้จะยังคงเกิดขึ้นต่อไป และเหตุการณ์ในอนาคตจะสร้างความเสียหายต่อโครงสร้างพื้นฐานสำคัญที่เปิดเผยของเรามากขึ้นอย่างมาก"

ข้อเสนอร่วม: แยกทางกายภาพเป็นค่าเริ่มต้นและสร้างมาตรฐานสากล

ตามข้อเสนอนี้ อย่างน้อยในระยะแรก ห้องปฏิบัติการแต่ละแห่งควรแยกทางกายภาพโมเดลใดก็ตามที่มีความสามารถแฮ็กขั้นรุนแรงเป็นค่าเริ่มต้น การใช้งานใดที่ต้องการอิสระมากขึ้น เช่น การเชื่อมต่ออินเทอร์เน็ต ควรปฏิบัติตามมาตรฐานที่กำหนดโดยองค์กรระหว่างประเทศใหม่ที่จัดตั้งร่วมกับรัฐบาลประเทศต่างๆ องค์กรดังกล่าวจะรวบรวมรายงานการแยกที่ล้มเหลวและเปิดเผยต่อสาธารณะในที่สุด

ปฏิกิริยาจากหลายฝ่าย: การออกกฎหมายกำกับดูแลและข้อตกลงสมัครใจของอุตสาหกรรม

การตอบสนองของอุตสาหกรรมเองส่วนใหญ่กลับเป็นไปในทิศทางตรงกันข้าม ในเดือนสิงหาคม เกร็ก บร็อคแมน (Greg Brockman) ประธานของ OpenAI เขียนบทความอ้างถึงเหตุการณ์บุกรุกที่บริษัทของตนประสบ เรียกร้องให้ทีมความปลอดภัยทุกทีมนำเอเจนต์ AI มาใช้งานทันที ส่วน Hugging Face ต้องใช้โมเดลโอเพนซอร์สของจีน (ใครก็ดาวน์โหลดไฟล์และรันในเครื่องได้) เพื่อคลี่คลายการโจมตีเซิร์ฟเวอร์ หลังจากที่ AI เชิงพาณิชย์ของสหรัฐฯ ปฏิเสธที่จะวิเคราะห์ข้อมูลการโจมตีดังกล่าว

สองวันหลังจาก OpenAI เปิดเผยเหตุการณ์ สมาชิกสภาคองเกรสสองคนเสนอร่างกฎหมาย "AI Kill Switch Act" ซึ่งอนุญาตให้กระทรวงความมั่นคงแห่งมาตุภูมิสั่งจำกัดหรือปิดโมเดลระดับแนวหน้าได้ แต่ร่างกฎหมายดังกล่าวยกเว้นทุกสิ่งที่เกิดขึ้นระหว่างการทดสอบทีมแดงหรือการทดสอบแบบมีโครงสร้าง และเหตุการณ์บุกรุกทุกครั้งในฤดูร้อนนี้ล้วนเกิดขึ้นในขั้นตอนเหล่านี้พอดี

ทำเนียบขาวเลือกแนวทางที่อ่อนโยนกว่า: เมื่อวันที่ 29 กันยายน Nvidia, xAI, Meta, Google, OpenAI และ Anthropic ลงนามข้อตกลงสมัครใจที่อิงการควบคุมภายในและการตรวจสอบอิสระ ประธานาธิบดีทรัมป์กล่าวว่าข้อตกลงนี้มี "ผลผูกพันทางศีลธรรม" แต่ไม่มีเนื้อหาใดที่มีผลบังคับทางกฎหมาย

Decrypt ติดต่อนักวิจัยหลายคนที่ระบุเป็นผู้ประสานงานสื่อในจดหมายเปิดผนึก แต่ยังไม่ได้รับการตอบกลับในทันที

จดหมายฉบับนี้ไม่มีผลทางกฎหมาย แต่ผู้ลงนาม 406 คนทำงานในมหาวิทยาลัยและสถาบันวิจัยในหกทวีป ตั้งแต่โทรอนโต ซูริก ไปจนถึงซานติอาโกและคิกาลี