เพียงสี่เดือนหลังเข้าร่วม ทีมของซ่งเสี่ยวตงมีรายงานว่าแยกทางกับ Meta โดยอ้างรูปแบบการทำงานที่ไม่เข้ากัน

ชื่อเรื่องต้นฉบับ: Meta แยกทางกับ Virtue AI

ผู้เขียนต้นฉบับ: Ashley Gold

เรียบเรียงต้นฉบับ: Machine Heart

รับสมัครในเดือนมิถุนายน และมีข่าวลือแยกทางในเดือนตุลาคม?

ทีม Virtue AI นำโดยศาสตราจารย์ Dawn Song จาก UC Berkeley มีรายงานว่าพบปัญหาในการทำงานร่วมกับ Meta โดยอ้างว่า "รูปแบบการทำงานไม่เข้ากัน"

Dawn Song ได้รับการยอมรับอย่างสูงทั้งในวงการวิชาการและอุตสาหกรรม ได้รับการยอมรับว่าเป็นหนึ่งในนักวิชาการที่มีอิทธิพลมากที่สุดในด้านความปลอดภัยคอมพิวเตอร์และความปลอดภัยของ AI บทความปี 2005 ของเธอเกี่ยวกับ "Dynamic Taint Analysis" ถือเป็นงานคลาสสิกในด้านความปลอดภัยคอมพิวเตอร์

ตามการจัดอันดับของ AMiner เธอเป็นนักวิชาการที่ถูกอ้างอิงมากที่สุดในโลกในด้านความปลอดภัยคอมพิวเตอร์ ห้องแล็บของเธอที่ Berkeley เป็นที่รู้จักในฐานะแหล่งฝึกฝนบุคลากรชั้นนำด้านความปลอดภัยคอมพิวเตอร์

นอกจากบทบาทศาสตราจารย์แล้ว Dawn Song ยังเป็นผู้ก่อตั้ง Oasis Labs และ Virtue AI ตามเว็บไซต์อย่างเป็นทางการของ Virtue AI งานของพวกเขารวมถึงการจำลองการโจมตี การระบุช่องโหว่ใน AI และการให้การป้องกันระหว่างการทำงานของระบบ การนำกฎความปลอดภัยและการกำกับดูแลไปใช้ พูดง่ายๆ คือ พวกเขาช่วยให้ AI ได้รับการ "ตรวจสุขภาพ" และติดตั้ง "ราวกันตก" ระหว่างการทำงาน

ในเดือนมิถุนายนปีนี้ Dawn Song ประกาศบนโซเชียลมีเดียว่าเธอได้เข้าร่วม Superintelligence Labs ของ Meta รายงานข่าวในเวลานั้นระบุว่าผู้ก่อตั้งอีกสองคนของ Virtue AI คือ Bo Li และ Sanmi Koyejo พร้อมด้วยสมาชิกทีมอีกหลายคนก็เข้าร่วมด้วย การสรรหานี้เป็นวิธีที่ Meta นำทีมอิสระเข้ามาแทนการซื้อกิจการทั้งบริษัท

สำหรับทีมผู้มีความสามารถของ Virtue AI การเข้าร่วม Meta นั้นน่าสนใจเพราะพวกเขากำลังดำเนินการทดสอบความปลอดภัยของ AI การทำ red teaming และการป้องกันหลังการเปิดตัวให้กับลูกค้าอยู่แล้ว แต่ในฐานะสตาร์ทอัพ ทรัพยากรของพวกเขามีจำกัด การเข้าร่วม Meta ทำให้พวกเขาสามารถนำความสามารถเหล่านี้ไปใช้กับผลิตภัณฑ์ที่ผู้ใช้หลายพันล้านคนใช้โดยตรง เปลี่ยนจาก "เครื่องมือความปลอดภัย" เป็นโครงสร้างพื้นฐานด้านความปลอดภัยสำหรับแพลตฟอร์มขนาดใหญ่

ในขณะเดียวกัน Meta ก็ต้องการพวกเขาเพราะกำลังผลักดัน AI Agents และ superintelligence อย่างจริงจัง เมื่อเวลาผ่านไป มีความกังวลเพิ่มขึ้นเกี่ยวกับโมเดลที่ทำงานผิดปกติ ข้อมูลรั่วไหล และถูกชักจูงด้วยคำสั่งที่เป็นอันตราย ดังนั้นพวกเขาจึงต้องหาทีมชั้นนำที่เข้าใจการวิจัยและมีประสบการณ์จริงในการนำความปลอดภัยไปใช้อย่างรวดเร็ว เพื่อรับประกันความปลอดภัย ความน่าเชื่อถือ และการกำกับดูแลของ AI

ทั้งหมดนี้ดูสมเหตุสมผลมาก แต่ในบทความล่าสุด สื่อต่างประเทศ Semafor รายงานว่า "โฆษกของ Meta Andy Stone แจ้งกับ Semafor ว่าบริษัทกำลังเลิกจ้างพนักงานกลุ่มหนึ่งที่สรรหามาจากสตาร์ทอัพด้านความปลอดภัย AI Virtue AI ซึ่งเพิ่งทำงานได้เพียงสี่เดือนนับตั้งแต่เข้าร่วมในเดือนมิถุนายน"

ทำไมถึงบานปลายเร็วขนาดนี้? Meta อธิบายว่ามี "รูปแบบการทำงานที่ไม่เข้ากัน" และการทำงานร่วมกันไม่ได้พัฒนาไปตามที่คาดไว้ ในขณะเดียวกัน Meta ระบุว่า Superintelligence Labs จะยังคงมุ่งเน้นด้านความปลอดภัยของ AI การจัดแนว และความเสี่ยงแนวหน้า แน่นอนว่านี่เป็นเพียงมุมมองของบริษัท และความขัดแย้งเฉพาะเจาะจงยังไม่ถูกเปิดเผย

นอกจากนี้ รายงานไม่ได้ยืนยันว่า Dawn Song และคนอื่นๆ ออกจากทีมโดยสมบูรณ์หรือไม่ และทีมยังไม่ได้ตอบกลับในเวลาที่เผยแพร่

อย่างไรก็ตาม คำถามที่แท้จริงที่เหลือจากการเปลี่ยนแปลงความร่วมมือครั้งนี้ยังคงน่าพูดถึง โดยประเด็นหลักคือ: จะทำอย่างไรให้นักวิจัยที่ยอดเยี่ยมสามารถสร้างผลกระทบภายในองค์กรได้หลังจากนำพวกเขาเข้ามา?

การศึกษาที่เผยแพร่โดย MIT Sloan ในปี 2019 พบว่าภายในปีแรกหลังจากบริษัทถูกซื้อกิจการ พนักงานที่ถูกซื้อ 33% เลือกที่จะลาออก ในขณะที่อัตราสำหรับการจ้างงานปกติที่มีทักษะและประสบการณ์ใกล้เคียงกันคือ 12% แม้ว่าเปอร์เซ็นต์เหล่านี้จะค่อยๆ เท่ากันเมื่อเวลาผ่านไป แต่ในช่วงสามปีที่พวกเขาศึกษา พนักงานที่ถูกซื้อมีแนวโน้มที่จะลาออกมากกว่าพนักงานใหม่ 15%

บทความชี้ให้เห็นว่าอัตราการลาออกที่สูงในหมู่พนักงานที่ถูกซื้อส่วนใหญ่เกิดจาก "ความไม่สอดคล้องขององค์กร": คนเหล่านี้เข้าร่วมสตาร์ทอัพในตอนแรกเพราะบรรยากาศการเป็นผู้ประกอบการ ความเป็นอิสระ ความยืดหยุ่น และความเต็มใจที่จะเสี่ยง แต่หลังจากถูกซื้อโดยบริษัทใหญ่ พวกเขามักเผชิญกับกระบวนการที่เป็นระบบราชการมากขึ้นและวัฒนธรรมองค์กรที่เป็นทางการ ซึ่งขัดแย้งโดยตรงกับความชอบของพวกเขา ยิ่งไปกว่านั้น พนักงานที่ถูกซื้อโดยทั่วไปไม่มีทางเลือกในผู้ซื้อและไม่สามารถมีส่วนร่วมในการปรับองค์กรหลังการซื้อ ซึ่งยิ่งเพิ่มความไม่สบายใจ ประกอบกับแนวโน้มที่จะเริ่มต้นจากศูนย์ พวกเขาจึงมีแนวโน้มที่จะลาออกมากขึ้น แม้กระทั่งเริ่มบริษัทคู่แข่ง

กลับมาที่เหตุการณ์ของ Meta คำอธิบายเรื่อง "รูปแบบการทำงานที่ไม่เข้ากัน" ดูไม่น่าเชื่อถือสำหรับหลายคนอย่างชัดเจน สำหรับความขัดแย้งเชิงลึกระหว่างสองฝ่าย เราจะต้องรอคำอธิบายจาก Virtue AI