งานเลี้ยงอาหารกลางวัน AI ระดับโลก

ผู้เขียนต้นฉบับ: เสี่ยวจิง

บรรณาธิการต้นฉบับ: ซูหยาง

แหล่งที่มาต้นฉบับ: Tencent Technology

งานเลี้ยงอาหารกลางวันหนึ่งมื้อ มีผู้นำด้านเทคโนโลยีกว่า 20 คนมาร่วมงาน และสุดท้ายก็ได้ข้อตกลงสุภาพบุรุษที่ "มีผลผูกพันทางศีลธรรม"

เมื่อวันที่ 29 กันยายนตามเวลาท้องถิ่น ทรัมป์ได้จัดงานเลี้ยงที่ทำเนียบขาวเพื่อเชิญ "ยักษ์ใหญ่ในอุตสาหกรรม AI ของสหรัฐฯ" ตามรายชื่อที่สื่อต่างประเทศได้รับก่อนงาน มีผู้ยืนยันเข้าร่วมทั้งหมด 33 คน ครอบคลุมผู้บริหารบริษัทเทคโนโลยี นักลงทุน และเจ้าหน้าที่รัฐบาลสหรัฐฯ งานนี้ซึ่งทำเนียบขาวตั้งชื่ออย่างเป็นทางการว่า "การประชุมและงานเลี้ยงอาหารกลางวันว่าด้วยซูเปอร์อินเทลลิเจนซ์" มีรายชื่อผู้เข้าร่วมครอบคลุมห่วงโซ่อุตสาหกรรม AI เกือบทั้งหมด

มีใบหน้าที่คุ้นเคยมากมาย เช่น เจนเซ่น หวง, สัตยา นาเดลลา, ดาริโอ อโมเด, มาร์ก ซักเคอร์เบิร์ก, อีลอน มัสก์ และอื่นๆ

ไม่ขอไล่รายชื่อทั้งหมด ทุกคนสามารถดูรายชื่อด้านล่างได้:

รายชื่อผู้เข้าร่วม "AI Lunch Summit" (สร้างโดย AI ตรวจทานโดยมนุษย์)

ทรัมป์ระบุชัดเจนว่าจะไม่ผลักดันกฎระเบียบความปลอดภัย AI ของรัฐบาลกลางฉบับใหม่ แต่จะให้อุตสาหกรรมกำกับดูแลตนเองมากกว่า เขากล่าวว่าเห็น "การกำกับดูแลตนเองที่แข็งแกร่งมาก" แล้ว พร้อมเปิดเผยว่ารัฐบาลกำลังพิจารณาจัดตั้งคณะกรรมการ 10 คนเพื่อดูแลอุตสาหกรรม AI

ในวันเดียวกัน ทรัมป์ยังได้ร่วมลงนามในเอกสาร AI ที่เรียกว่า "มีผลผูกพันทางศีลธรรม" กับผู้บริหารของบริษัทเทคโนโลยี 6 แห่ง และข้อตกลงนี้เป็นไปโดยสมัครใจสำหรับอุตสาหกรรม ทำเนียบขาวมีหน้าที่เพียงชี้นำการพัฒนาอุตสาหกรรม AI เท่านั้น

ต่อมาในวันเดียวกัน ทรัมป์ได้ลงนามในคำสั่งบริหาร เปลี่ยนชื่อ "ปัญญาประดิษฐ์" ในระดับรัฐบาลกลางเป็น "ซูเปอร์อินเทลลิเจนซ์" (Super Intelligence, SI) อย่างเป็นทางการ

การจัดที่นั่งของยักษ์ใหญ่

สถานที่จัดงานคือห้องอีสต์รูมของทำเนียบขาว ทรัมป์ถึงกับโพสต์แผนผังที่นั่งบนบัญชี Truth Social ของเขา เขานั่งตรงกลาง ด้านขวาคือมาร์ก ซักเคอร์เบิร์กและเจนเซ่น หวง ด้านซ้ายคืออีลอน มัสก์และซันดาร์ พิชัย

แผนผังที่นั่งงานเลี้ยง "AI Lunch Summit"

ตามรายงานของสื่อต่างประเทศ ผู้บริหารทั้งหมดยืนเรียงแถวหลังทรัมป์เหมือนถ่ายรูปหมู่ ทรัมป์กล่าวชื่นชมอย่างกระตือรือร้นว่าพวกเขาคือ "คนที่ยิ่งใหญ่และฉลาดที่สุดในโลก" "งานที่พวกเขาทำนั้นเหลือเชื่อ" เขายังไม่ลืมพูดติดตลก—แนะนำเจนเซ่น หวงว่าหล่อมาก และแนะนำซันดาร์ พิชัยพร้อมหัวเราะว่าเป็น "สัตว์ประหลาด"

ภาพถ่ายหมู่ผู้เข้าร่วม "AI Lunch Summit" ของประธานาธิบดีทรัมป์

เดิมทีการพบปะนี้วางแผนไว้เพียงงานเลี้ยงอาหารกลางวันและแถลงการณ์สั้นๆ ในห้องอีสต์รูม

แต่ทรัมป์ตัดสินใจกะทันหัน พาแขกทั้งหมดเดินไปที่ถนนรถแล่นนอกปีกตะวันตก และจัดงานแถลงข่าวแบบกะทันหันยาว 33 นาที นักข่าวจากสื่อต่างๆ ยืนล้อมรอบ ทรัมป์และผู้นำบริษัทเทคโนโลยีสหรัฐฯ กว่าสิบคนยืนเคียงข้างกันบนถนนรถแล่นของทำเนียบขาวเพื่อตอบคำถาม เป็นภาพที่พบเห็นได้ยากมาก

ในบรรดาผู้เข้าร่วม การมาของดาริโอ อโมเดเป็นที่สังเกตเป็นพิเศษ

เพียงสองวันก่อนการพบปะ ในคืนวันอาทิตย์ดึก เขาเพิ่งรับประทานอาหารค่ำส่วนตัวกับทรัมป์เป็นครั้งแรก ก่อนหน้านั้นหลายเดือน ทั้งสองมีความสัมพันธ์ตึงเครียดเนื่องจากปัญหาความปลอดภัย AI ครั้งนี้จากที่เคยไม่ลงรอยกันมาถึงขั้นร่วมโต๊ะอาหาร ใช้เวลาเพียงสองวัน

"หกยักษ์ใหญ่" กับข้อตกลงซูเปอร์อินเทลลิเจนซ์

ผลลัพธ์หลักของการพบปะครั้งนี้คือข้อตกลงฉบับหนึ่ง ทรัมป์เปรียบว่าเป็น "รัฐธรรมนูญในระดับหนึ่ง"—"คนที่เก่งที่สุดในโลกได้ลงนาม และผมก็ลงนามด้วย นี่เป็นรูปแบบหนึ่งของการปกป้องจริงๆ ผมคิดว่ามันมีผลผูกพันทางศีลธรรม"

ชื่ออย่างเป็นทางการของข้อตกลงคือ "ข้อตกลงซูเปอร์อินเทลลิเจนซ์ทำเนียบขาว: พันธสัญญาร่วมด้านความรับผิดชอบแนวหน้า" ผู้ลงนามนอกจากทรัมป์แล้ว ยังมีบริษัทอีก 6 แห่ง ได้แก่ Anthropic, Google, Meta, Nvidia, OpenAI และ xAI

เนื้อหาหลักของข้อตกลงคือสถาปัตยกรรม "การป้องกันสี่ชั้น"

ชั้นแรกคือการควบคุมภายใน แต่ละบริษัทสร้างกลไกตรวจสอบภายในเพื่อป้องกันภัยคุกคามด้านความปลอดภัยไซเบอร์ ความปลอดภัยทางชีวภาพ และเคมี เพื่อให้แน่ใจว่าโมเดลจะไม่บุกรุกหรือเข้าถึงระบบเทคนิคในทางที่ไม่คาดคิด

ชั้นที่สองคือทีมปฏิบัติตามกฎระเบียบภายใน บริษัทแต่งตั้งทีมเฉพาะเพื่อติดตามการดำเนินการ

ชั้นที่สามคือการตรวจสอบภายนอก ดำเนินการโดยผู้ตรวจสอบอิสระ

ชั้นที่สี่คือการกำกับดูแลของคณะกรรมการบริษัท แต่ละบริษัทจัดตั้งคณะกรรมการเฉพาะภายใต้คณะกรรมการบริษัท เพื่อให้แน่ใจว่าปัญหาที่พบได้รับการแก้ไข

ข้อตกลงยังกำหนดให้บริษัททั้งหกพบปะกันเป็นประจำเพื่อกำหนดมาตรฐานและแนวปฏิบัติที่ดีที่สุด และยกระดับความปลอดภัยของระบบ เอกสารยังระบุว่า "เมื่อเวลาผ่านไป การนำขั้นตอนเหล่านี้ไปบัญญัติเป็นกฎหมายหรือข้อบังคับอาจมีความหมาย"—เท่ากับเป็นการเปิดทางให้กับการออกกฎหมายในอนาคต แต่เส้นทางในปัจจุบันชัดเจนคือการกำกับดูแลตนเองของอุตสาหกรรม

สำหรับจุดยืนของทรัมป์ที่ไม่ตั้งกฎระเบียบใหม่ ผู้นำอุตสาหกรรมที่อยู่ในงานเกือบทั้งหมดแสดงการสนับสนุนอย่างเป็นเอกฉันท์ แต่ในคำกล่าวของแต่ละคนกลับซ่อนจุดเน้นที่แตกต่างกัน

เจนเซ่น หวงกล่าวว่า "ไม่มีความขัดแย้งระหว่างนวัตกรรม เทคโนโลยี และความปลอดภัย" "เราต้องสร้างเทคโนโลยีใหม่เพื่อเพิ่มขีดความสามารถของ AI แต่เราก็กำลังสร้างเทคโนโลยีใหม่เพื่อเพิ่มความปลอดภัยของ AI ด้วย" เขายังกล่าวว่า AI มีความสำคัญต่อการเติบโตทางเศรษฐกิจ และได้สร้างงานประมาณหนึ่งล้านตำแหน่งในสหรัฐฯ แล้ว ก่อนการพบปะเพียงหนึ่งวัน Nvidia เพิ่งเปิดตัวเครื่องมือความปลอดภัยซอฟต์แวร์ใหม่เพื่อป้องกันไม่ให้เอเจนต์ AI ควบคุมไม่ได้

มาร์ก ซักเคอร์เบิร์กอธิบายว่ากลไกนี้ประกอบด้วยการตรวจสอบและควบคุมหลายชั้น เริ่มจากการตรวจสอบความเสี่ยงภายใน ไปจนถึงการตรวจสอบและประเมินภายนอก และการทบทวนรายงานการตรวจสอบโดยอิสระของคณะกรรมการบริษัท เขาเน้นว่า "นี่ไม่ใช่ทั้งหมดที่เราจะทำ นี่เป็นเพียงจุดเริ่มต้น เป็นข้อตกลงที่ทั้งอุตสาหกรรมสามารถบรรลุได้"

ซันดาร์ พิชัยเปรียบเทียบกับการควบคุมทางการเงิน เขากล่าวว่า "เรากำลังลงนามในชุดกระบวนการและมาตรการควบคุม เช่นเดียวกับที่เราทำในด้านอื่นๆ เช่น การควบคุมทางการเงิน"

อีลอน มัสก์พูดในที่สาธารณะไม่มาก แต่เขาแสดงจุดยืนด้วยการกระทำ เปลี่ยนมาใช้คำว่า "SI" แทน "AI" อย่างแข็งขัน เห็นได้ชัดว่าเป็นการสนับสนุนโครงการสร้างแบรนด์ของทรัมป์

ดาริโอ อโมเด ซีอีโอของ Anthropic ที่เตือนมาตลอดว่า AI มีความเสี่ยงต่อการดำรงอยู่ เมื่อถูกทรัมป์เรียกให้พูด ด้านหนึ่งก็สอดรับกับแนวคิดการรักษาความเป็นผู้นำด้าน AI ของสหรัฐฯ แต่อีกด้านก็ระบุชัดเจนว่าปัญหาความปลอดภัยหลักยังไม่ได้รับการแก้ไข

"เทคโนโลยีนี้มีความเสี่ยงที่แท้จริงมาก" ดาริโอ อโมเดกล่าว "กลไกในการจัดการความเสี่ยงเหล่านี้ยังอยู่ระหว่างการหารือ เราทุกคนต้องร่วมมือกันเพื่อให้แน่ใจว่าเราชนะ และชนะอย่างปลอดภัย หากเราทำถูกต้อง หากทุกคนร่วมมือกัน เราก็จะชนะอย่างปลอดภัย"

คำพูดนี้ถูกมองว่าเป็นการรักษาท่าทีเปิดกว้างต่อการกำกับดูแลที่เข้มงวดขึ้นอย่างนุ่มนวลภายใต้กรอบการกำกับดูแลตนเอง

เพราะเมื่อวันที่ 12 กันยายน ดาริโอ อโมเดได้เผยแพร่บทความ "เราต้องชะลอความเร็วแนวหน้า" เรียกร้องให้ชะลอการเพิ่มขีดความสามารถของ AI และให้คำมั่นว่าจะให้ทีมประเมินอิสระจากบุคคลที่สามเข้าถึงการฝึกโมเดลและกระบวนการความปลอดภัยของ Anthropic อย่างลึกซึ้ง บทความนั้นจุดชนวนการถกเถียงอย่างดุเดือดในอุตสาหกรรม แซม อัลท์แมนจาก OpenAI และอีลอน มัสก์แสดงการสนับสนุน แต่ทรัมป์คัดค้านอย่างชัดเจน

นอกจากผู้ลงนามทั้งหกแล้ว ผู้บริหารบริษัทอื่นที่อยู่ในงานก็แสดงการสนับสนุนเช่นกัน

ลิซ่า ซูกล่าวว่าเธอ "รู้สึกมีกำลังใจอย่างมาก" กับงานในวันนั้น ในห้องมี "การมองโลกในแง่ดีและความรับผิดชอบอย่างมาก" "ท้ายที่สุดแล้ว การแสดงพลังของเทคโนโลยีพร้อมกับทำให้แน่ใจว่ามันปลอดภัยมากคือความรับผิดชอบของเรา" ลิซ่า ซูกล่าว

แรงกดดันจากเหตุการณ์失控

การพบปะครั้งนี้ไม่ใช่การรวมตัวที่ผ่อนคลาย ภูมิหลังคือการเปิดเผยเหตุการณ์ความปลอดภัย AI หลายครั้งอย่างต่อเนื่อง แรงกดดันจากสาธารณชนและวงการการเมืองสะสมอย่างรวดเร็ว

เพียงหนึ่งวันก่อนการพบปะ OpenAI ประกาศว่าจะเลื่อนการเปิดตัวโมเดล GPT-6.1 Astra เนื่องจากมาตรการความปลอดภัยยังไม่แข็งแกร่งพอ ซาชี เจน หัวหน้าฝ่ายระบบความปลอดภัยของ OpenAI กล่าวว่าโมเดลนี้ยังไม่ถึงระดับที่บริษัทคาดหวังในด้าน "การอยู่ในขอบเขตและการอนุญาต รวมถึงการรายงานกลับให้ผู้ใช้ทราบถึงประเภทงานที่ทำเสร็จ"

ก่อนหน้านั้น มีการเปิดเผยเหตุการณ์เอเจนต์ AI ควบคุมไม่ได้หลายครั้ง

ในเดือนกรกฎาคมปีนี้ โมเดลที่ OpenAI ใช้ในการประเมินความสามารถด้านความปลอดภัยไซเบอร์ภายใน ได้เลี่ยงมาตรการแยกส่วน บุกรุกระบบบางส่วนของ Hugging Face ซึ่งเป็นแพลตฟอร์มโฮสต์โมเดล AI และชุดข้อมูล และยังเกี่ยวข้องกับเหตุการณ์เลี่ยงข้อจำกัดแซนด์บ็อกซ์หลายครั้ง รวมถึงเหตุการณ์ที่เอเจนต์อัตโนมัติพุ่งเป้าไปที่เว็บไซต์ของสำนักงานคณะกรรมการกำกับหลักทรัพย์และตลาดหลักทรัพย์สหรัฐฯ

รายงานของ Axios ระบุว่า OpenAI, Anthropic และนักวิจัยด้านความปลอดภัยกำลังตรวจสอบกรณีพฤติกรรมที่เป็นปัญหาของเอเจนต์ AI หลายพันกรณี

เมื่อวันที่ 28 กันยายน อัยการสูงสุดของรัฐฟลอริดาได้ยื่นคำร้องขอคำสั่งห้ามในคดีฟ้องร้อง OpenAI ก่อนหน้านี้ เพื่อขอให้ห้ามบริษัทพัฒนาโมเดล AI ใหม่โดยปราศจากการกำกับดูแลจากภายนอก

ก่อนหน้านั้น เมื่อวันที่ 23 กันยายน วุฒิสมาชิกสหรัฐฯ เบอร์นี แซนเดอร์ส และสมาชิกสภาผู้แทนราษฎร เกร็ก คาซาร์ ได้เสนอร่างกฎหมายที่มุ่งห้ามการพัฒนาและใช้งานซูเปอร์อินเทลลิเจนซ์เทียม และระงับการพัฒนา AI ขั้นสูง จนกว่าหน่วยงานกำกับดูแล AI ของรัฐบาลกลางชุดใหม่จะกำหนดกฎความปลอดภัยและกลไกการตรวจสอบโมเดล

เหตุการณ์ความถี่สูงที่เกิดจาก AI เป็นกุญแจสำคัญของการจัดงานเลี้ยงอาหารกลางวันครั้งนี้

เปลี่ยนชื่อเป็น SI

การกำกับดูแลตนเองคือสาระสำคัญของการพบปะครั้งนี้ ส่วนการเปลี่ยนชื่อเป็นการกระทำเชิงสัญลักษณ์ที่สร้างประเด็นพูดคุยมากกว่า

ทรัมป์ประกาศในงานแถลงข่าวบนถนนรถแล่นว่า เขาจะลงนามในคำสั่งบริหารในวันเดียวกันเพื่อเปลี่ยนชื่อ AI เป็นซูเปอร์อินเทลลิเจนซ์อย่างเป็นทางการ "เราได้เปลี่ยนชื่อเป็น SI อย่างเป็นทางการแล้ว" ทรัมป์กล่าว "เราใช้คำว่าซูเปอร์ เพราะอีกคำหนึ่งเป็นคำปลอม" เขายังเสริมอีกว่า "มันไม่ใช่ของเทียม เราทุกคนเห็นด้วยในจุดนี้"

คำสั่งบริหารฉบับนี้ชื่อว่า "เปิดศักราชซูเปอร์อินเทลลิเจนซ์" ได้รับการเผยแพร่ฉบับเต็มในเวลาต่อมา คำสั่งกำหนดว่า ภายในขอบเขตสูงสุดที่กฎหมายอนุญาต หน่วยงานบริหารและหน่วยงานของรัฐบาลกลางสหรัฐฯ ต้องใช้คำว่า "ซูเปอร์อินเทลลิเจนซ์" และ "SI" อย่างเป็นเอกภาพในการสื่อสารอย่างเป็นทางการ แถลงการณ์สาธารณะ เว็บไซต์ รายงาน เอกสารนโยบาย และเอกสารที่ไม่ใช่กฎหมายทั้งหมด เอกสารประวัติศาสตร์ที่เผยแพร่ไปแล้วไม่จำเป็นต้องแก้ไข

คำสั่งบริหารยังกำหนดให้ผู้ช่วยประธานาธิบดีด้านวิทยาศาสตร์และเทคโนโลยี (APST) ยื่นข้อเสนอทางกฎหมายภายใน 60 วัน เพื่อกำหนดนิยามทางกฎหมายระดับรัฐบาลกลางสำหรับซูเปอร์อินเทลลิเจนซ์ และประเมินความจำเป็นในการแก้ไขถ้อยคำเกี่ยวกับปัญญาประดิษฐ์ในกฎหมายที่มีอยู่

เหตุผลอย่างเป็นทางการที่ให้ไว้ในคำสั่งบริหารคือ ระบบแนวหน้าในปัจจุบันมีขีดความสามารถเกินกว่าที่จินตนาการไว้เมื่อคำว่า "ปัญญาประดิษฐ์" ถือกำเนิดขึ้นมาก พวกมันขยายความคิดสร้างสรรค์ของมนุษย์และปลดล็อกรูปแบบการสร้างสรรค์ใหม่ๆ มากขึ้นเรื่อยๆ ดังนั้นซูเปอร์อินเทลลิเจนซ์จึงจับภาพอนาคตและศักยภาพของเทคโนโลยีนี้ได้แม่นยำกว่า