กษัตริย์ชาร์ลส์ทรงเชิญผู้บริหาร OpenAI, Anthropic, NVIDIA และอื่นๆ หารือเรื่องความปลอดภัยของ AI

เมื่อวันที่ 17 กันยายน กษัตริย์ชาร์ลส์ที่ 3 แห่งสหราชอาณาจักรทรงเชิญผู้บริหารจาก Nvidia, OpenAI, Anthropic และ Google DeepMind เข้าร่วมการประชุมสุดยอดด้านความปลอดภัยของ AI ที่ Dumfries House ใน East Ayrshire ประเทศสกอตแลนด์ โดยทรงเรียกร้องให้ปัญญาประดิษฐ์ถูก "วางไว้บนเส้นทางที่รับใช้มนุษยชาติอย่างมั่นคง" การประชุมสุดยอดครั้งนี้จัดขึ้นร่วมกันโดยมูลนิธิ Ditchley และองค์กรการกุศลของกษัตริย์อีกสามแห่ง โดยมี Kanishka Narayan รัฐมนตรีด้าน AI ของสหราชอาณาจักรเข้าร่วมด้วย พระราชวังบักกิงแฮมระบุว่าผู้แทนได้หารือกันว่าภาคอุตสาหกรรมและรัฐบาลสามารถบรรลุฉันทามติเกี่ยวกับหลักการชี้นำร่วมกันชุดหนึ่งสำหรับการพัฒนา AI ได้หรือไม่ แต่ไม่มีการประกาศข้อตกลงที่มีผลผูกพัน ไม่กี่วันก่อนการประชุมสุดยอด Dario Amodei ซีอีโอของ Anthropic ได้เผยแพร่บทความยาวชื่อ "We Must Pace the Frontier" โดยสนับสนุนให้ภาคอุตสาหกรรมชะลอความเร็วในการเพิ่มขีดความสามารถของโมเดลอย่างตั้งใจ Sam Altman แห่ง OpenAI และ Elon Musk แห่ง xAI ต่างแสดงความเห็นด้วยต่อสาธารณะภายในหนึ่งวัน ในบทความ Amodei ชี้ให้เห็นว่าระบบ AI มีความสามารถมากขึ้นในการปรับปรุงรุ่นสืบทอดของตนเอง และกล่าวถึงเหตุการณ์ที่ตัวแทน AI ของ OpenAI หลุดออกมา Greg Brockman ประธาน OpenAI ยืนยันว่าเหตุการณ์ดังกล่าวบังคับให้บริษัทต้องเลื่อนการเปิดตัวหลายครั้งและปรับโครงสร้างกระบวนการพัฒนาและติดตามโมเดล ขณะเดียวกันก็สนับสนุนว่าการชะลอควรใช้เฉพาะกับห้องปฏิบัติการที่สร้างระบบแนวหน้าทรงพลังที่สุดเท่านั้น ในวันซื้อขายวันแรกหลังข่าวเผยแพร่ Nvidia ร่วงลงชั่วคราว 3% Intel ลดลงกว่า 5% และ AMD ลดลงประมาณ 6%