รายงาน: OpenAI และ Anthropic หารือทดสอบโมเดลขนาดใหญ่ซึ่งกันและกัน

ตามรายงานของสื่อที่อ้างแหล่งข่าววงใน Anthropic และ OpenAI พิจารณาที่จะลงนามในข้อตกลงที่มีผลผูกพันทางกฎหมายเพื่อทดสอบความเครียด (stress test) โมเดลขนาดใหญ่ของกันและกัน เมื่อต้นปีนี้ ทั้งสองบริษัทและทีมกฎหมายได้หารือเกี่ยวกับแผนนี้ โดยอนุญาตให้คู่แข่งทำการทดสอบเชิงลึกกับโมเดลล่าสุดที่พร้อมใช้งานของกันและกัน เพื่อระบุความเสี่ยงที่อาจเกิดขึ้นหรือช่องโหว่ด้านความปลอดภัย การทดสอบดังกล่าวจะใช้กับโมเดลที่จำหน่ายในเชิงพาณิชย์เท่านั้น และทั้งสองฝ่ายตกลงที่จะไม่เก็บข้อมูลของกันและกัน รายงานไม่ได้ระบุชัดเจนว่าทั้งสองฝ่ายบรรลุข้อตกลงดังกล่าวในที่สุดหรือไม่ เมื่อเร็ว ๆ นี้ แนวคิดในการนำการตรวจสอบโดยผู้ทรงคุณวุฒิ (peer review) รูปแบบหนึ่งมาใช้ในหมู่ห้องปฏิบัติการ AI ชั้นนำได้รับความสนใจมากขึ้น Elon Musk ซีอีโอของ SpaceX เสนอเมื่อสัปดาห์ที่แล้วว่าบริษัทโมเดลขนาดใหญ่ชั้นนำหลายแห่งในสหรัฐฯ และบริษัท AI ของจีนบางแห่งควรอนุญาตให้คู่แข่งทำการทดสอบข้ามกัน Musk กล่าวว่า บริษัท AI ทุกแห่งมีชุดเครื่องมือทดสอบของตนเอง และการให้แต่ละบริษัทใช้เครื่องมือของบริษัทอื่นในการรันการทดสอบของตนอาจเป็นสิ่งที่ดีที่สุดที่พวกเขาสามารถทำได้เพื่อรับประกันความปลอดภัยของตนเอง เมื่อต้นเดือนนี้ Jacob Coxon นักวิจัยของ Anthropic ประกาศลาออกและเตือนบริษัทปัญญาประดิษฐ์ชั้นนำเกี่ยวกับการเร่งพัฒนาอย่างรวดเร็วโดยไม่มีมาตรการป้องกันที่เหมาะสม ต่อมา Dario Amodei ซีอีโอของ Anthropic เรียกร้องให้อุตสาหกรรมชะลอการพัฒนา AI และนำกลไกการประเมินโดยบุคคลที่สามมาใช้ Anthropic ประกาศเมื่อวันศุกร์ที่แล้วถึงความร่วมมือกับ Accenture โดย Accenture จะทำหน้าที่เป็นหน่วยงานประเมินบุคคลที่สามเพื่อประเมินความสอดคล้องด้านความปลอดภัยของโมเดล AI ล้ำสมัยของตน