Anthropic, Dario Amodei และThe Last Private Company

ชื่อเรื่องเดิม: "Anthropic, Dario Amodei และ 'The Last Private Company'"
ผู้แต่งต้นฉบับ: Beating

มีเรื่องราวสองเรื่องที่ขัดแย้งกัน แต่ก็ดูสมเหตุสมผล เกี่ยวกับดาริโอ อโมเดอี ผู้ก่อตั้งบริษัทแอนโทรปิก

การตีความอย่างหนึ่งก็คือ เขาเป็นผู้เฝ้าระวังที่สุขุมรอบคอบที่สุดในยุคของเรา ในขณะที่โลกทั้งใบกำลังเร่งไปสู่เหวแห่งปัญญาเหนือมนุษย์ เขาเพียงผู้เดียวที่ยืนอยู่ข้างทาง คอยเตือนซ้ำแล้วซ้ำเล่าว่ามีเหวลึกอยู่เบื้องหน้า

อีกเวอร์ชั่นหนึ่งของเรื่องราวคือ เขาเป็นหนึ่งในบุคคลที่มีความทะเยอทะยานมากที่สุดในซิลิคอนแวลลีย์ เขาเป็นผู้นำบริษัท AI ที่ทรงพลังที่สุดในโลก ทำงานทั้งวันทั้งคืนเพื่อสร้างอนาคตที่ทุกคนเคยเตือนไว้ทีละเล็กทีละน้อย

เป็นไปได้ที่คนคนหนึ่งจะทำทั้งสองสิ่งนี้พร้อมกันได้

เขาตั้งชื่อโลกในจินตนาการนั้นว่า "อาณาจักรแห่งอัจฉริยะในศูนย์ข้อมูล" อาณาจักรนั้นประกอบด้วยอัจฉริยะห้าสิบล้านคนที่ไม่เคยนอนหลับ ทำงานตลอด 24 ชั่วโมง คิดเร็วกว่าคนทั่วไปหลายสิบเท่า และสามารถสร้างคนอื่นๆ ที่เหมือนกับตัวเองได้นับไม่ถ้วน อาณาจักรนี้ไม่มีดินแดน ไม่มีพรมแดน มันดำรงอยู่ภายในแถวแล้วแถวเล่าของศูนย์ข้อมูล

ในเดือนมกราคมปี 2026 เขาได้เขียนวิสัยทัศน์นี้ลงในบทความขนาดยาวชื่อ "ช่วงวัยรุ่นของเทคโนโลยี"

จากนั้นเขาก็คิดไปไกลกว่านั้นอีก จะเป็นอย่างไรถ้าวันหนึ่งอัจฉริยะทั้งห้าสิบล้านคนเหล่านี้เลิกเชื่อฟังมนุษยชาติ?

เหตุการณ์ที่ตามมานั้นอันตรายมาก อาวุธชีวภาพ การว่างงานจำนวนมาก ระบอบเผด็จการ สงคราม—เขาไล่เรียงออกมาทีละอย่าง สุดท้ายเขากล่าวว่า "เราเหลือเวลาไม่มากแล้ว"

ในบทความเดียวกัน เขายังเขียนอีกว่า "ปัญญาประดิษฐ์กำลังเขียนโค้ดจำนวนมากให้กับ Anthropic อยู่แล้ว ซึ่งจะช่วยให้โมเดลรุ่นต่อไปทำงานได้เร็วขึ้น"

เขาเตือนขณะเร่งความเร็ว เขาไม่เห็นว่าสิ่งนี้ขัดแย้งกันแต่อย่างใด

นี่คือจุดเริ่มต้นของปัญหาทั้งหมด ไม่ใช่ว่าเขาเป็นคนไม่ดี แต่เป็นเพราะเขาไม่รู้ตัวจริงๆ

แน่นอน เขาย่อมมีเหตุผลของเขา บริษัท Anthropic อาจหยุด แต่ OpenAI จะไม่หยุด Google ก็จะไม่หยุด และบริษัทในประเทศอื่นๆ ก็จะไม่หยุดเช่นกัน ไม่มีใครเต็มใจที่จะเป็นคนแรกที่ยอมแพ้ และคนที่หยุดก่อนก็คงไม่สามารถหยุดอะไรได้อีกต่อไป เพียงแต่จะมอบผลประโยชน์ให้คนอื่นไปแทน

ข้อโต้แย้งนี้แปลได้ว่า: ในเมื่อทุกคนกำลังแย่งชิงกันอยู่ งั้นให้ "ฉัน" เป็นคนแรกเถอะ ในเมื่อไม่มีใครหยุดได้ งั้นให้ "ฉัน" เป็นคนตัดสินใจว่าจะหยุดเมื่อไหร่

ดังนั้น ไม่ว่าควรสร้างปัญญาประดิษฐ์ขั้นสูงหรือไม่นั้น จึงมีความสำคัญน้อยกว่า ในความเห็นของเขา มันจะถูกสร้างขึ้นไม่ช้าก็เร็ว สิ่งที่สำคัญจริงๆ คือใครจะเป็นผู้สร้างมันเป็นคนแรก และใครจะเป็นผู้ที่มีคุณสมบัติเหมาะสมที่จะควบคุมพวงมาลัยในวันนั้น

สายเกินไปแล้ว

ดาริโอ อาโมเดอี เกิดที่ซานฟรานซิสโกในปี 1983 บิดาของเขามาจากแคว้นทัสคานี ประเทศอิตาลี และประกอบอาชีพในธุรกิจเครื่องหนัง ส่วนมารดาของเขามีเชื้อสายยิวจากชิคาโก และมีส่วนร่วมในการวางแผนและก่อสร้างหอสมุดสาธารณะซานฟรานซิสโก

เขาชื่นชอบคณิตศาสตร์และฟิสิกส์มาตั้งแต่เด็ก ในช่วงปลายทศวรรษ 1990 ระหว่างช่วงฟองสบู่ดอทคอมในอ่าวซานฟรานซิสโก บริษัทต่างๆ ผุดขึ้นมามากมาย คนหนุ่มสาวสร้างเว็บไซต์ แสวงหาเงินลงทุน และคำนวณว่าพวกเขาจะได้รับเงินเท่าไหร่ในวัน IPO เรื่องราวเหล่านี้ไม่ได้ทำให้เขารู้สึกอะไร หลายปีต่อมา เขาบอกว่าสิ่งที่เขาค้นหาในตอนนั้นคือ "ความจริงทางวิทยาศาสตร์พื้นฐาน" เขาแค่อยากเข้าใจว่าทำไมโลกถึงเป็นอย่างที่เป็นอยู่

เขามีความจริงจังอย่างมากจนเกือบจะถึงขั้นหมกมุ่นกับสิ่งที่เขาเรียกว่า "ประเด็นสำคัญ" มานานแล้ว เมื่อเขาตัดสินใจว่าสิ่งใดสำคัญมากพอแล้ว เขาจะไม่เข้าใจว่าทำไมคนถึงยอมผ่อนคลายและทำราวกับว่าไม่มีอะไรผิดปกติเกิดขึ้น

ในปี 2003 ขณะที่สหรัฐฯ กำลังจะบุกอิรัก เขาเรียนอยู่ที่สถาบันเทคโนโลยีแคลิฟอร์เนีย (Caltech) มีคนต่อต้านสงครามจำนวนมากในมหาวิทยาลัย ระหว่างการสนทนา บางคนแสดงความกังวลออกมา แต่ในวันรุ่งขึ้น ทุกคนก็ไปเรียนตามปกติ เขาเขียนบทความลงในหนังสือพิมพ์ของนักศึกษา วิพากษ์วิจารณ์เพื่อนร่วมชั้น โดยกล่าวว่า หากพวกเขากลัวจริงๆ ว่าสงครามจะคร่าชีวิตผู้คนจำนวนมาก การต่อต้านของพวกเขาไม่ควรเป็นเพียงแค่คำพูด เพราะมันจะสายเกินไปที่จะเสียใจเมื่อสงครามเกิดขึ้นจริง

ในความคิดของเขา ความลังเลใจไม่ใช่ความเป็นกลางเสมอไป การรอคอยนั้นเองก็เป็นทางเลือกอย่างหนึ่ง

สิ่งที่ชายหนุ่มวัยยี่สิบคนนี้ทนไม่ได้มากที่สุดก็คือการรอคอย

สามปีต่อมา เมื่ออายุได้ 23 ปี พ่อของเขาก็เสียชีวิตด้วยโรคไวรัสตับอักเสบซี

ในเวลานั้น แทบไม่มีวิธีรักษาโรคไวรัสตับอักเสบซีให้หายขาด การรักษามาตรฐานคือการรับประทานยาอินเตอร์เฟรอนเป็นเวลาหนึ่งปีเต็ม แต่การรักษานี้อาจทำให้เกิดไข้ ผมร่วง และภาวะซึมเศร้า และอัตราการหายขาดต่ำกว่า 50%

ในเดือนธันวาคม 2013 ยาตัวใหม่ได้รับการอนุมัติ การรักษาใช้เวลาน้อยลงเพียงสิบสองสัปดาห์ และมีอัตราการรักษาหาย 95%

พ่อของเขาไม่ได้มีชีวิตอยู่จนได้เห็นเขา

อายุห่างกันเพียงเจ็ดปีเท่านั้น

ลูกชายที่ไม่สามารถช่วยชีวิตพ่อได้ ใช้เวลาอีกยี่สิบปีผลักดันให้วิทยาศาสตร์ก้าวหน้าเร็วขึ้นเรื่อยๆ

หลังจากบิดาเสียชีวิต เขาเปลี่ยนจากฟิสิกส์เชิงทฤษฎีมาเป็นชีวฟิสิกส์ โดยศึกษาเกี่ยวกับวงจรประสาทในจอประสาทตาที่มหาวิทยาลัยพรินซ์ตัน แต่พบว่าเครื่องมือในสมัยนั้นทำงานช้าเกินไป เขาจึงมีส่วนร่วมในการพัฒนาเซนเซอร์ใหม่ๆ

ต่อมา เขาได้เข้าศึกษาต่อที่โรงเรียนแพทย์สแตนฟอร์ดเพื่อศึกษาโรคมะเร็งและโปรตีน ยิ่งเข้าใกล้โรคมากเท่าไหร่ ก็ยิ่งรู้สึกว่าตัวเองเล็กลงเท่านั้น โรคหนึ่งๆ เกี่ยวข้องกับยีนหลายร้อยตัว โปรตีนหลายหมื่นตัว และเส้นทางที่เชื่อมโยงกันนับไม่ถ้วน นักวิจัยอาจใช้เวลาหลายปีในการพยายามทำความเข้าใจเพียงหนึ่งส่วนในห่วงโซ่ แต่พวกเขาก็ยังไม่รู้ว่าจะเกิดอะไรขึ้นเมื่อนำส่วนนั้นกลับเข้าไปในร่างกายทั้งหมด

ต่อมาเขาได้บรรยายถึงความซับซ้อนของสถานการณ์ว่าเกือบทำให้เขาสิ้นหวัง

ปัญญาประดิษฐ์ (AI) เข้ามาอยู่ในความสนใจของเขาในช่วงเวลานั้น มันเป็นเครื่องมือที่สามารถขยายขอบเขตความสามารถของมนุษย์ได้ เครื่องจักรสามารถอ่านเอกสารจำนวนมาก ประมวลผลข้อมูลจำนวนมาก และทดลองความเป็นไปได้หลายอย่างพร้อมกัน แทนที่แรงงานทางปัญญาที่เดิมต้องใช้ผู้เชี่ยวชาญหลายร้อยหรือหลายพันคนในการทำให้สำเร็จ

เขาเริ่มต้นจากความคิดที่ว่า "มนุษย์นั้นไร้ความสำคัญเกินไป" จึงสรุปว่าเขาควรสร้างสิ่งที่มีขนาดใหญ่กว่าและบีบอัดมนุษย์ให้เล็กลงอีกครั้ง

ในปี 2014 เขาออกจากวงการวิทยาศาสตร์ชีวภาพและเข้าร่วมทีม AI ของ Baidu ในซิลิคอนแวลลีย์ ทีมงานค้นพบอย่างรวดเร็วว่ายิ่งโมเดลมีขนาดใหญ่ มีข้อมูลมาก และยิ่งมีกำลังประมวลผลมาก ประสิทธิภาพก็จะยิ่งดีขึ้น ไม่กี่ปีต่อมา ประสบการณ์นี้ถูกสรุปเป็น "กฎแห่งขนาด": คุณอาจไม่รู้ว่าโมเดลรุ่นต่อไปจะเรียนรู้อะไรได้บ้าง แต่คุณสามารถคาดเดาได้คร่าวๆ ว่ามันจะแข็งแกร่งกว่ารุ่นก่อนหน้า

ปัจจุบันกล้องอัจฉริยะดูเหมือนจะสามารถผลิตได้ในปริมาณมากเหมือนกับสินค้าอุตสาหกรรม ดังนั้นปัญญาประดิษฐ์ (AI) ที่ทรงพลังจึงเป็นสิ่งที่หลีกเลี่ยงไม่ได้ที่จะเกิดขึ้นไม่ช้าก็เร็ว

ความแตกต่างที่เหลืออยู่ก็คือปริมาณข้อมูล จำนวนชิป ปริมาณพลังงาน และระยะเวลาที่เราต้องรอ

คนที่เกลียดการรอคอยมากที่สุด กลับพิสูจน์ด้วยมือของตนเองว่า เส้นทางสู่คำตอบที่เขาต้องการนั้นมีอยู่จริง

พวงมาลัย

ในปี 2016 ดาริโอ อาโมเดอี เข้าร่วมงานกับ OpenAI

ในช่วงหลายปีต่อมา โมเดลภาษานี้เติบโตอย่างรวดเร็ว ด้วย GPT-3 โอเพนไอได้มอบพลังการประมวลผลมากกว่าครึ่งหนึ่งของบริษัทให้กับดาริโอ ซึ่งได้ขยายขนาดโมเดลขึ้นถึงร้อยเท่า ผลลัพธ์ที่ได้นั้นน่าทึ่งยิ่งกว่าที่หลายคนคาดคิด มันสามารถเขียนบทความ แปล สรุป และทำงานอื่นๆ ที่มันเรียนรู้ด้วยตัวเองโดยไม่ต้องได้รับการสอน

เมื่อขนาดใหญ่ขึ้น ความสามารถก็จะเพิ่มขึ้นตามไปด้วย

เขามั่นใจว่าเส้นทางนี้จะนำไปสู่สติปัญญาโดยรวม และเมื่อใดที่ความเป็นไปได้ที่แบบจำลองจะฉลาดเทียบเท่ามนุษย์ได้รับการยอมรับ ความปลอดภัยก็จะไม่ใช่เรื่องเล็กน้อยอีกต่อไป

จากนั้นเขาก็พบปัญหา ดาริโอรับผิดชอบในการสร้างแบบจำลอง แต่เขาก็ค่อยๆ ตระหนักว่าการสร้างแบบจำลองและการตัดสินใจว่าแบบจำลองควรไปในทิศทางใดนั้นเป็นคนละเรื่องกันโดยสิ้นเชิง การปล่อยแบบจำลองเมื่อใด การเปิดใช้งานในระดับใด บริษัทใดที่ควรร่วมมือ และใครมีอำนาจในการตัดสินใจ ไม่ใช่ความรับผิดชอบของเขาโดยอัตโนมัติเพียงเพราะเขารับผิดชอบในการฝึกอบรมแบบจำลอง

ภายในบริษัท OpenAI แบ่งออกเป็นสองกลุ่ม กลุ่มหนึ่งต้องการนำเทคโนโลยีออกสู่โลกอย่างรวดเร็ว ในขณะที่อีกกลุ่มหนึ่งกังวลว่าใครจะเป็นผู้นำบริษัทและหลักการที่บริษัทใช้ในการดำเนินงานอาจมีความสำคัญมากกว่ารายละเอียดทางเทคนิคใดๆ

แล้วคนแบบไหนถึงจะมีคุณสมบัติเหมาะสมที่จะเป็นผู้นำบริษัทที่สร้างปัญญาประดิษฐ์ที่มีประสิทธิภาพสูง?

คำตอบของเขาคือ ผู้นำต้องซื่อสัตย์ มีเจตนารมณ์ที่จริงใจ และต้องปรารถนาอย่างแท้จริงที่จะทำให้โลกเป็นสถานที่ที่ดีขึ้น

ความปลอดภัยทางเทคโนโลยีค่อยๆ กลายเป็นเรื่องของการตัดสินคน แนวคิดนี้ทั้งอันตรายและมีเหตุผล อันตรายอยู่ที่ว่ามันลดทอนประเด็นที่ซับซ้อนทั้งหมดให้เหลือเพียงแค่ว่าบุคคลนั้นน่าเชื่อถือหรือไม่ และในแนวคิดนี้ สิ่งที่ขาดหายไปเสมอคือ: ใครเป็นผู้ตัดสินว่าบุคคลนั้นน่าเชื่อถือหรือไม่?

ในปี 2020 ความขัดแย้งระหว่างเขากับผู้บริหารของ OpenAI ได้กลายเป็นเรื่องที่แก้ไขไม่ได้ ในเดือนธันวาคมปีนั้น เขาจึงลาออกจาก OpenAI พร้อมกับน้องสาวของเขา ดาเนียลา แจ็ค คลาร์ก คริส โอลาห์ และเพื่อนร่วมงานอีกหลายคน เนื่องจากดาริโอชอบแพนด้า กลุ่มเล็กๆ นี้จึงถูกเรียกภายในว่า "กลุ่มแพนด้า"

ไม่กี่เดือนต่อมา พวกเขาก่อตั้งบริษัท Anthropic ขึ้น โดยในพจนานุกรม Anthropic หมายถึง "เกี่ยวข้องกับผู้คน"

คราวนี้ ดาริโอไม่คิดจะส่งพวงมาลัยให้คนอื่นแล้ว

ยี่สิบคน

ในปี 2021 การระบาดใหญ่ยังคงดำเนินอยู่ต่อเนื่องในซานฟรานซิสโก

Anthropic เป็นบริษัทที่ค่อนข้างใหม่ มีพนักงานเพียงสิบห้าถึงยี่สิบคนเท่านั้น ส่วนใหญ่แล้วพวกเขาประชุมกันผ่าน Zoom แต่หนึ่งวันต่อสัปดาห์ พวกเขาแต่ละคนจะนำเก้าอี้ไปนั่งคุยกันในสวนสาธารณะ ระหว่างรับประทานอาหารกลางวัน พวกเขาจะพูดคุยเกี่ยวกับแบบจำลอง กำลังการประมวลผล การวิจัยด้านความปลอดภัย และอนาคตของบริษัท

มีคนไม่ถึงยี่สิบคนนั่งอยู่บนสนามหญ้าในซานฟรานซิสโก บางคนอาจถือกล่องสลัดที่กินไม่หมด แต่พวกเขากลับกังวลเกี่ยวกับอนาคตของประชากรแปดพันล้านคน

กฎแห่งขนาดบอกพวกเขาว่าอนาคตเป็นสิ่งที่หลีกเลี่ยงไม่ได้ ในเมื่อมันต้องมาถึง ใครสักคนก็ต้องเตรียมหนทางไว้ล่วงหน้า วลี "ใครสักคนต้องทำ" คือเหตุผลทั้งหมดที่สนับสนุนความชอบธรรม

เป้าหมายของ Anthropic คือการสร้างแบบจำลองที่ล้ำสมัย วิจัยวิธีการทำความเข้าใจและควบคุมแบบจำลองเหล่านั้นไปพร้อมๆ กัน จากนั้นจึงนำวิธีการรักษาความปลอดภัยเหล่านี้มาพัฒนาให้เป็นมาตรฐานสำหรับบริษัทอื่นๆ

ดาริโอได้รับบทเรียนจาก OpenAI เขาเข้าใจว่าการพูดคุยเรื่องความปลอดภัยจากภายนอกเทคโนโลยีนั้น มีประโยชน์เฉพาะกับผู้ที่ควบคุมโมเดลเหล่านั้นจริงๆ เท่านั้น ไม่ว่าจะพูดจาดีแค่ไหน ก็เหมือนกับการยืนอยู่บนฝั่งแล้วสอนคนที่อยู่ในน้ำให้ว่ายน้ำ

คุณต้องลงไปในน้ำด้วยตัวเอง

สิ่งนี้ทำให้ Anthropic ดูค่อนข้างแปลกประหลาดตั้งแต่แรกเริ่ม หากต้องการรู้ว่าแบบจำลองที่ทรงพลังที่สุดก่อให้เกิดอันตรายอะไรบ้าง คุณต้องครอบครองแบบจำลองที่ทรงพลังที่สุดเสียก่อน และหากต้องการมีอิทธิพลต่อกฎระเบียบ คุณต้องมีอิทธิพลในอุตสาหกรรมนั้นเสียก่อน

ด้วยเหตุนี้ Anthropic จึงเข้าไปพัวพันกับวงจรที่บริษัทสร้างแบบจำลองขนาดใหญ่ที่ล้ำสมัยทุกแห่งไม่อาจหลีกเลี่ยงได้ นั่นคือ การระดมทุน การซื้อพลังการประมวลผล การฝึกฝนแบบจำลอง การเปิดตัวผลิตภัณฑ์ การดึงดูดลูกค้า และจากนั้นใช้รายได้และมูลค่าใหม่เพื่อแลกเปลี่ยนเป็นพลังการประมวลผลเพิ่มเติม

ดาริโอ กล่าวว่า การทำให้บริษัทเติบโตคือการปกป้องโลก นักลงทุนก็เต็มใจที่จะเชื่อว่า การลงทุนใน Anthropic คือการลงทุนในบริษัท AI ที่มีความรับผิดชอบมากขึ้น

ความเฉียบแหลมของข้อโต้แย้งนี้อยู่ที่ว่า ยิ่งเขามีรายได้มากเท่าไหร่ เขาก็ยิ่งดูมีคุณธรรมมากขึ้นเท่านั้น และยิ่งมูลค่าของบริษัทสูงขึ้นเท่าไหร่ หลักฐานที่แสดงว่าเขา "ปกป้องโลก" ก็ยิ่งชัดเจนมากขึ้นเท่านั้น

ผลประโยชน์ทางการค้าและภารกิจของอารยธรรมต่างส่งเสริมซึ่งกันและกัน

ดาริโอเป็นผู้ให้ทิศทาง เขาเขียนบทความขนาดยาวเกี่ยวกับอารยธรรม วิทยาศาสตร์ และอนาคตของมนุษยชาติ ส่วนดาเนียลา น้องสาวของเขา รับผิดชอบในการทำให้วิสัยทัศน์อันยิ่งใหญ่เหล่านี้เป็นจริง โดยดูแลเรื่องการสรรหาบุคลากร การสร้างทีม และการระดมทุน

จุดเริ่มต้นของบริษัทคือการตัดสินใจครั้งสำคัญที่แทบเป็นไปไม่ได้เลยที่จะปลอมแปลง:

ปัญญาประดิษฐ์ที่ทรงพลังกำลังจะมาถึง และโลกต้องการบริษัทที่น่าเชื่อถือมากขึ้นเพื่อเป็นผู้นำในด้านนี้

"น่าเชื่อถือมากกว่า" คือสิ่งที่บริษัทกล่าวเอง

เรื่องราวนี้ทำให้ Anthropic มีความสามัคคีอย่างแข็งแกร่ง ผู้ที่เข้าร่วมไม่ได้เพียงแค่ต้องการงานที่มีรายได้สูงกว่าเท่านั้น พวกเขาเชื่อว่าพวกเขากำลังทำสิ่งที่สำคัญอย่างยิ่งต่ออารยธรรมมนุษยชาติ

สถานการณ์ที่น่าหวาดกลัวที่สุดสำหรับบริษัทคือเมื่อพนักงานเชื่ออย่างแท้จริงว่าพวกเขากำลังช่วยเหลวมนุษยชาติ เพราะนับจากนั้นเป็นต้นไป การขยายธุรกิจทั้งหมดจะกลายเป็นสงครามศักดิ์สิทธิ์โดยอัตโนมัติ และเสียงคัดค้านทั้งหมดจะกลายเป็นการทรยศต่อมนุษยชาติโดยอัตโนมัติ

ในช่วงแรกเริ่ม บริษัท Anthropic ต้องการพิสูจน์ว่าบริษัท AI สามารถระมัดระวังและมีความรับผิดชอบมากกว่าบริษัทอื่นๆ ความปรารถนานี้อาจเป็นความปรารถนาที่แท้จริง

แต่ความจริงใจไม่ได้เป็นหลักประกันว่าทุกอย่างจะถูกต้องเสมอไป คนที่จริงใจมักประสบปัญหามากกว่าคนเสแสร้งเมื่อทำผิดพลาด เพราะพวกเขาไม่เคยหยุดถามตัวเองว่า:

การมีความรับผิดชอบหมายความว่าอย่างไรกันแน่?

อะไรทำให้บริษัทเอกชนมีสิทธิ์ในการตัดสินใจแทนคนทั้งโลก?

ไม้บรรทัด

การฝึกโมเดลขนาดใหญ่ในยุคแรกๆ มักอาศัยผู้ประเมินที่เป็นมนุษย์จำนวนมากในการตัดสินคำตอบ มนุษย์ต้องตัดสินใจก่อนว่าคำตอบใดดีกว่า เนื้อหาใดเป็นอันตราย และโมเดลควรปฏิเสธคำตอบเหล่านั้นหรือไม่ จากนั้นจึงป้อนความชอบเหล่านี้กลับไปยังเครื่องจักร

แม้ว่าวิธีการนี้จะมีประสิทธิภาพ แต่ก็ยุ่งยากเช่นกัน ผู้ให้ข้อมูลมาจากสถานที่ต่างๆ และมีค่านิยมที่แตกต่างกัน แม้แต่กฎที่ละเอียดที่สุดก็ไม่สามารถครอบคลุมทุกสถานการณ์ได้

แอนโทรปิคคิดค้นแนวทางใหม่ แทนที่จะให้มนุษย์บอกโมเดลซ้ำๆ ว่าจะตอบคำถามแต่ละข้ออย่างไร เขาได้กำหนดหลักการชุดหนึ่งให้โมเดลก่อน ในปี 2022 แอนโทรปิคได้เสนอ "ปัญญาประดิษฐ์เชิงรัฐธรรมนูญ" วิธีการโดยคร่าวๆ คือ ขั้นแรก ให้โมเดลสร้างคำตอบ จากนั้นให้มันระบุข้อบกพร่องในคำตอบเหล่านั้นโดยอิงจากหลักการที่เขียนไว้ ค้นหาปัญหา แล้วจึงปรับปรุงแก้ไข

"รัฐธรรมนูญ" ฉบับนี้ยาวขึ้นเรื่อยๆ มันจำเป็นต้องเข้าใจเรื่องอำนาจและผลประโยชน์ทับซ้อน และรู้ว่าวุฒิภาวะและปัญญาคืออะไร มันยังต้องพิจารณาถึงอัตลักษณ์ สถานการณ์ และความเป็นอยู่ที่ดีของตัวเองด้วย และไม่ควรปฏิบัติต่อตัวเองเป็นเพียงเครื่องมือที่ปราศจากคุณค่าในตัวเอง

มันหล่อหลอมบุคลิกภาพ

บริษัท Anthropic ระบุในธรรมนูญว่าเอกสารฉบับนี้มีอิทธิพลโดยตรงต่อพฤติกรรมของโคลด แสดงถึงวิสัยทัศน์ของบริษัทเกี่ยวกับคุณค่าและลักษณะนิสัยของโคลด และเป็น "อำนาจสูงสุด" ในการทำความเข้าใจว่าโคลดควรปฏิบัติตนอย่างไร ในอดีต ผู้รับผิดชอบในเรื่องดังกล่าวได้แก่ โบสถ์ จักรพรรดิ และพรรคการเมือง ปัจจุบันเป็นบริษัทเอกชน

เมื่อผลกระทบของแบบจำลองขนาดใหญ่ต่อโลกไม่ได้เป็นเพียงการบริโภคครั้งเดียวอีกต่อไป สิ่งที่โคลดปฏิเสธหรือสนับสนุน และวิธีที่เขาอธิบายประเทศ สงคราม หรือระบบการเมือง จะส่งผลต่อผลิตภัณฑ์ในลำดับถัดไปและกลายเป็นส่วนหนึ่งของความเข้าใจโลกของผู้อื่น

บริษัท Anthropic ยังคงตัดสินใจในลักษณะขององค์กรธุรกิจ แต่ผลกระทบจากการตัดสินใจเหล่านั้นกลับคล้ายคลึงกับสถาบันของรัฐมากขึ้นเรื่อยๆ โดยไม่จำเป็นต้องมีการตรวจสอบจากสถาบันของรัฐแต่อย่างใด

หลังจากวางรากฐานรัฐธรรมนูญสำหรับโมเดลต่างๆ แล้ว Anthropic ก็เริ่มออกแบบกฎจราจรสำหรับอุตสาหกรรม ในปี 2023 บริษัทได้เปิดตัว "นโยบายการขยายขนาดอย่างมีความรับผิดชอบ" โมเดลที่รู้เพียงวิธีการเขียนอีเมลและโมเดลที่สามารถออกแบบอาวุธชีวภาพและโจมตีทางไซเบอร์ที่ซับซ้อนได้นั้น ไม่สามารถจัดการได้ในลักษณะเดียวกัน ดังนั้น Anthropic จึงจัดประเภทโมเดลออกเป็นระดับความเสี่ยงต่างๆ ยิ่งโมเดลมีความสามารถมากเท่าใด ความเสี่ยงที่อาจเกิดขึ้นก็ยิ่งมากขึ้นเท่านั้น และบริษัทก็ต้องใช้มาตรการรักษาความปลอดภัยที่เข้มงวดมากขึ้นเท่านั้น

บริษัทเอกชนแห่งหนึ่งมีบทบาทหลายอย่าง บริษัทผลิตแบบจำลอง เมื่อแบบจำลองเสร็จสมบูรณ์ บริษัทก็ทำการวัดระดับความอันตราย กำหนดมาตรฐานว่าอะไรคือความอันตราย กำหนดขอบเขตที่ควรป้องกันอันตราย และสุดท้าย บริษัทใช้ผลลัพธ์เหล่านี้เพื่อให้คำแนะนำแก่หน่วยงานกำกับดูแลเกี่ยวกับวิธีการกำหนดกฎระเบียบ

เขาเป็นทั้งนักกีฬาและผู้ตัดสิน

บริษัท Anthropic พิจารณาแง่มุมนี้อย่างชัดเจนเช่นกัน เพื่อป้องกันไม่ให้บริษัทถูกกลืนกินโดยผลประโยชน์ทางการค้าโดยสิ้นเชิง Anthropic จึงออกแบบกองทุนเพื่อผลประโยชน์ระยะยาวขึ้นมา กองทุนนี้ประกอบด้วยสมาชิกภายนอกที่ไม่ได้ถือครองผลประโยชน์ทางเศรษฐกิจโดยตรงในบริษัท โดยมีเป้าหมายเพื่อให้มั่นใจว่า Anthropic จะคำนึงถึงผลประโยชน์ของมนุษย์ในระยะยาวควบคู่ไปกับผลตอบแทนของผู้ถือหุ้น ตามการออกแบบเบื้องต้น กองทุนนี้จะค่อยๆ ได้รับอำนาจในการแต่งตั้งและถอดถอนกรรมการส่วนใหญ่ และจะเข้ามายับยั้งเมื่อบริษัทเบี่ยงเบนไปจากพันธกิจของตน

จากมุมมองด้านธรรมาภิบาลขององค์กร การจัดโครงสร้างแบบนี้ค่อนข้างหายาก สตาร์ทอัพส่วนใหญ่เมื่อระดมทุน มักจะพยายามพิสูจน์ให้นักลงทุนเห็นว่าพวกเขาจะเติบโตอย่างรวดเร็ว แต่ Anthropic กลับทำตรงกันข้าม โดยสร้างโครงสร้างเพื่อป้องกันไม่ให้นักลงทุนและฝ่ายบริหารในอนาคตละทิ้งคำมั่นสัญญาเรื่องความมั่นคงเพื่อแลกกับการทำกำไร

คงไม่ยุติธรรมที่จะบอกว่านี่เป็นเพียงการแสดงเท่านั้น บริษัท Anthropic ให้ความสำคัญกับอำนาจมากกว่าบริษัทเทคโนโลยีส่วนใหญ่ และพร้อมที่จะสร้างปัญหาให้กับตัวเอง แต่ตั้งแต่ต้นจนจบ สิ่งที่บริษัทพิจารณาอย่างจริงจังเสมอมาคือวิธีการใช้อำนาจนั้นให้เกิดประโยชน์สูงสุด ไม่ใช่ว่าบริษัทควรมีอำนาจนั้นหรือไม่

บริษัทที่ถือกำเนิดมาพร้อมกับพันธกิจจะไม่ถามว่า "ฉันมีอยู่เพื่ออะไร?" แต่จะถามเพียงว่า "ฉันจะดำรงอยู่ให้ดียิ่งขึ้นได้อย่างไร?"

มันไม่ได้ตอบว่า "ใครเป็นคนมอบพลังนี้ให้คุณ" แต่มันประกาศเพียงว่า ในเมื่อมันมีพลังอยู่แล้ว มันจึงวางแผนที่จะเป็นคนดี

มาถึงจุดนี้ ดาริโอไม่ได้เป็นเพียงแค่ผู้บริหารบริษัทอีกต่อไปแล้ว ปรัชญาด้านความมั่นคงของเขาได้แทรกซึมเข้าไปในลักษณะของแบบจำลองและนโยบายสาธารณะของเขา จากนั้นเขาก็เริ่มหารือว่าประเทศใดควรได้รับข้อมูลข่าวกรองขั้นสูงก่อน ระบบการเมืองใดสมควรได้รับการคุ้มครอง และใครควรเป็นผู้กำหนดลำดับการได้รับข้อมูลข่าวกรองของโลก

อเมริกาได้เปรียบเรื่องอนาคตก่อนใคร

ในปี 2024 ดาริโอ อาโมเดอี ได้เขียนหนังสือชื่อ "เครื่องจักรแห่งพระคุณอันเปี่ยมด้วยความรัก"

ชื่อนี้มาจากบทกวี ในปี 1967 ริชาร์ด บรอติแกน กวี ได้เขียนบทกวีชื่อ "All Watched Over by Machines of Loving Grace" ที่สถาบันเทคโนโลยีแคลิฟอร์เนีย (Caltech)

บทกวีเกี่ยวกับการปรองดองระหว่างเครื่องจักรและสรรพสิ่ง เขาหยิบยืมชื่อเรื่องนี้มาเขียนเป็นบททำนายทางเทคโนโลยีที่มองโลกในแง่ดีที่สุดบทหนึ่งในประวัติศาสตร์มนุษยชาติ

ปัญญาประดิษฐ์ที่ทรงพลังจะกลายเป็นทีมวิจัยที่ประกอบด้วยนักวิทยาศาสตร์ชั้นนำจำนวนนับไม่ถ้วน ทำงานทั้งวันทั้งคืนเพื่ออ่านงานวิจัยและออกแบบการทดลอง บีบอัดความก้าวหน้าทางวิทยาศาสตร์หลายทศวรรษให้เหลือเพียงไม่กี่ปี โรคมะเร็ง โรคติดเชื้อ และโรคทางพันธุกรรมอาจถูกเอาชนะได้ในวงกว้าง มนุษยชาติอาจเข้าใจอย่างแท้จริงว่าภาวะซึมเศร้า ความวิตกกังวล และการเสพติดเกิดขึ้นได้อย่างไร อายุขัยเฉลี่ยอาจยาวนานขึ้น และประเทศยากจนอาจข้ามขั้นตอนการพัฒนาอุตสาหกรรมไปได้

เขาทำนายอย่างกล้าหาญว่า หากปัญญาประดิษฐ์ (AI) ที่ทรงพลังพัฒนาไปได้อย่างราบรื่น ความก้าวหน้าทางการแพทย์ชีวภาพที่ควรจะเกิดขึ้นในอีก 50 ถึง 100 ปีข้างหน้า อาจจะสำเร็จได้ภายใน 5 ถึง 10 ปี

เป็นเรื่องยากที่จะไม่นึกถึงพ่อของเขา

ลูกชายของเขาเฝ้ารอถึงเจ็ดปีเพื่อให้ยาตัวใหม่ได้รับการอนุมัติ ซึ่งอาจช่วยชีวิตคนอื่นได้ แต่ก็สายเกินไปที่จะช่วยชีวิตเขา เขาหวังว่าคนรุ่นหลังจะไม่ต้องรอเช่นนี้

ในโลกอุดมคติของเขา เขาเชื่ออย่างแท้จริงว่าเทคโนโลยีนี้สามารถลดโรคภัย ความทุกข์ทรมาน และความตายได้ เขายังได้กล่าวถึงวิธีการที่จะทำให้แน่ใจว่าประโยชน์ของ AI จะไม่ตกอยู่กับประเทศร่ำรวยเท่านั้น เขาหวังว่า AI จะช่วยให้ประเทศในซีกโลกใต้พัฒนาขึ้น และผลประโยชน์ทางเทคโนโลยีจะเข้าถึงผู้คนทั่วโลกให้มากที่สุดเท่าที่จะเป็นไปได้

แต่เมื่อเขาเริ่มพูดถึงวิธีการที่จะไปถึงอนาคตนั้น สิ่งต่างๆ ก็ไม่ได้เป็นเรื่องสากลอีกต่อไป

เขาเชื่อว่าเมื่อปัญญาประดิษฐ์ที่มีประสิทธิภาพสูงขึ้น ประเทศต่างๆ จะต้องได้เปรียบ ความได้เปรียบนี้ไม่สามารถเกิดขึ้นได้จากการที่บริษัทใดบริษัทหนึ่งมีผลิตภัณฑ์ที่ดีกว่าหรือได้คะแนนสูงกว่าในการจัดอันดับ แต่ต้องมาจากความแข็งแกร่งในด้านชิป พลังการประมวลผล พลังงาน ห่วงโซ่อุปทาน ขีดความสามารถทางทหาร และพันธมิตรระหว่างประเทศ

สหรัฐอเมริกาและพันธมิตรต้องจัดหาเซมิคอนดักเตอร์ที่ทันสมัยยิ่งขึ้นและสร้างศูนย์ข้อมูลขนาดใหญ่ขึ้น ในขณะเดียวกันก็ต้องกีดกันคู่แข่งทางยุทธศาสตร์ไม่ให้ได้รับชิปที่จำเป็นสำหรับการฝึกฝนโมเดลขั้นสูงที่สุด เมื่อปัญญาประดิษฐ์ (AI) ที่ทรงพลังเกิดขึ้นจริง พวกเขาต้องใช้ประโยชน์จากมันเพื่อขยายความได้เปรียบทางทหารและเศรษฐกิจ สร้างตำแหน่งที่ประเทศอื่นไม่สามารถท้าทายได้ง่ายๆ

จากนั้นก็ถึงเวลาแบ่งปัน

ยาจำเป็นต้องได้รับการแจกจ่าย และชิปก็จำเป็นต้องได้รับการรักษาความปลอดภัย คำสัญญาของเขาที่ว่า "ทำให้แน่ใจว่าคนรุ่นต่อไปไม่ต้องรอ" นั้น แท้จริงแล้วก็คือ "ทำให้แน่ใจว่าผู้ที่ตรงตามเกณฑ์ไม่ต้องรอ" และใครจะตรงตามเกณฑ์นั้นก็ขึ้นอยู่กับเขา

เขาถึงกับเรียกสภาวะนั้นว่า "ปี 1991 อันเป็นนิรันดร์" ในปี 1991 สหภาพโซเวียตล่มสลาย สงครามเย็นสิ้นสุดลง และสหรัฐอเมริกาและพันธมิตรได้รับความเหนือกว่าอย่างท่วมท้น เขาหวังว่าปัญญาประดิษฐ์ที่ทรงพลังจะสามารถสร้างช่วงเวลาทางประวัติศาสตร์เช่นนั้นขึ้นมาใหม่ได้

โปรดสังเกตความสำคัญของคำอุปมานี้ เทคโนโลยีที่อ้างว่าจะเป็นประโยชน์ต่อมวลมนุษยชาตินั้น ในอุดมคติแล้วถูกมองว่าเป็นอำนาจครอบงำแบบขั้วเดียวที่ครอบคลุมที่สุดในประวัติศาสตร์มนุษยชาติ

"โลกเป็นของทุกคน" — ตัวละครทั้งสี่นี้เขียนได้งดงามมาก อย่างไรก็ตาม "โลก" เป็นของสหรัฐอเมริกา ในขณะที่ "การเป็นของทุกคน" เป็นของบริษัทแอนโทรปิก

จากนั้น DeepSeek ก็ถือกำเนิดขึ้น บริษัทจีนซึ่งมีทรัพยากรค่อนข้างจำกัด สามารถฝึกฝนโมเดลที่มีประสิทธิภาพสูงได้ ดาริโอเชื่อว่านี่คือการแสดงให้เห็นถึงความสามารถด้านการวิจัยและวิศวกรรมที่โดดเด่นของจีนอย่างแท้จริง เมื่อใดที่บริษัทจีนมีชิปที่ทันสมัยเพียงพอ พวกเขาอาจสามารถฝึกฝนโมเดลที่ทรงพลังที่สุดในโลกได้

ดังนั้น เราจึงไม่สามารถมอบชิปให้พวกเขาได้อย่างแน่นอน

ยิ่งคู่ต่อสู้แข็งแกร่งมากเท่าไหร่ ก็ยิ่งพิสูจน์ได้ว่าการปิดล้อมนั้นสมเหตุสมผลมากขึ้นเท่านั้น เมื่อคู่ต่อสู้พิสูจน์ความสามารถของตนได้ นั่นก็กลายเป็นเหตุผลของการปิดล้อม ตรรกะนี้เป็นจริงเสมอเพราะมันเป็นวงจรที่ไม่มีวันจบสิ้น

เขาแบ่งอนาคตออกเป็นสองประเภท ประเภทแรกคือโลกสองขั้ว ที่ทั้งสองฝ่ายสามารถฝึกฝนแบบจำลองที่มีประสิทธิภาพสูงมาก ทำให้การแข่งขันด้านสติปัญญาเป็นเหมือนสงครามเย็นครั้งใหม่ ประเภทที่สองคือโลกขั้วเดียว ที่สหรัฐอเมริกาและพันธมิตรควบคุมพลังการประมวลผลขั้นสูงส่วนใหญ่ และชาตะวันตกใช้ตำแหน่งผู้นำในช่วงไม่กี่ปีที่ผ่านมาเพื่อสร้างความได้เปรียบทางเทคโนโลยี เศรษฐกิจ และการทหาร ซึ่งต่อมาก็ทำให้มั่นคงยิ่งขึ้น

เห็นได้ชัดว่าเขาโหยหาอนาคตที่สอง การพูดถึงประโยชน์ที่จะเกิดขึ้นกับมนุษยชาติ การที่ไม่ต้องรออีกต่อไป การที่เครื่องจักรจะปรองดองกับทุกสิ่ง ล้วนเป็นเพียงบทนำเมื่อเผชิญหน้ากับ "ความเป็นขั้วเดียวชั่วนิรันดร์"

เขาเคยออกมาคัดค้านต่อสาธารณะเกี่ยวกับแนวคิดที่เขาไม่ชอบที่ผู้ก่อตั้งบริษัท AI มักพรรณนาตนเองว่าเป็นผู้เผยพระวจนะที่จะนำพามนุษยชาติไปสู่ความรอด และเขาระแวงบริษัทเพียงไม่กี่แห่งที่ใช้ความได้เปรียบทางเทคโนโลยีของตนเพื่อกำหนดอนาคตของทุกคนแต่เพียงฝ่ายเดียว

เขาต่อต้านศาสดา แต่สิ่งที่เขาทำนั้นก็เหมือนกับสิ่งที่ศาสดาทำนั่นเอง

เขามองเห็นอันตรายทั้งหมด ยกเว้นอันตรายต่อตัวเอง

ลองย้อนเวลากลับไปสู่เดือนมกราคม ปี 2026 ในยุค "วัยรุ่นของเทคโนโลยี" กันเถอะ

ในบทความนี้ ดาริโอ อโมเดอี ได้เขียนถึงคำวิพากษ์วิจารณ์เกือบทั้งหมดที่พุ่งเป้ามาที่ตัวเขาและบริษัทแอนโทรปิก

เขายอมรับว่าบริษัท AI ชั้นนำกำลังได้รับอำนาจที่ไม่ค่อยพบเห็นในประวัติศาสตร์ของภาคเอกชน เขายังกล่าวอย่างตรงไปตรงมาว่าบริษัท AI อาจใช้ผลิตภัณฑ์ของตนเพื่อมีอิทธิพลต่อทัศนคติทางการเมืองของผู้ใช้ หรือแม้กระทั่ง "ล้างสมอง" พวกเขา เขากระตุ้นให้ประชาชนจับตาดูบริษัท AI อย่างใกล้ชิด และให้รัฐบาลระมัดระวังบริษัทเหล่านี้ไม่ให้เข้าใกล้พลังอำนาจของรัฐมากเกินไป

เขายังวิตกกังวลว่าปัญญาประดิษฐ์จะยิ่งทำให้ความมั่งคั่งและอำนาจทางการเมืองกระจุกตัวมากขึ้น เมื่อบริษัทเพียงไม่กี่แห่งครอบครองสติปัญญา ความมั่งคั่ง และข้อมูล อิทธิพลของประชาชนทั่วไปที่มีต่อเศรษฐกิจและรัฐบาลก็จะค่อยๆ ลดลง

เขาเห็นอันตรายทั้งหมดเหล่านั้น และเขียนมันลงไปอย่างชัดเจนและแม่นยำ น้อยคนนักที่อยู่ในศูนย์กลางอำนาจที่จะพูดตรงไปตรงมาเกี่ยวกับอันตรายของตำแหน่งของตนเองเช่นนี้

เพราะมันเขียนได้ดีมากนี่เอง เราจึงต้องถามว่า: แล้วอย่างไรต่อ?

ทุกครั้งที่เขาเสนอแนวทางแก้ไข เขาก็มักจะหวนกลับไปในทิศทางเดิมเสมอ การทำตามแนวทางแก้ไขของเขาจนถึงที่สุด ทำให้แอนโทรปิกมีอำนาจมากขึ้นกว่าเดิม ยิ่งแบบจำลองอันตรายมากเท่าไหร่ แอนโทรปิกก็ยิ่งต้องเป็นผู้นำมากขึ้นเท่านั้น ยิ่งรัฐบาลมีความเชี่ยวชาญด้านเทคโนโลยีน้อยเท่าไหร่ พวกเขาก็ยิ่งต้องพึ่งพาการตัดสินใจของแอนโทรปิกมากขึ้นเท่านั้น ยิ่งประชาชนถูกแบบจำลองชักจูงได้ง่ายเท่าไหร่ แอนโทรปิกก็ยิ่งต้องอธิบายคุณค่าของแบบจำลองให้ชัดเจนมากขึ้นเท่านั้น และยิ่งประเทศอื่นๆ น่าเชื่อถือน้อยลงเท่าไหร่ สหรัฐฯ และบริษัท AI ของสหรัฐฯ ก็ยิ่งควรควบคุมชิปและพลังการประมวลผลมากขึ้นเท่านั้น

เขายอมรับว่าสำหรับทุกโรค แพทย์จะสั่งยาชนิดเดียวกันคือ ยาแอนโทรปิก (Anthropic)

เขามั่นใจอย่างยิ่งว่าเทคโนโลยีนี้อันตรายเกินกว่าจะมอบให้ใครก็ได้ และเขายังเชื่ออีกว่าเขาได้ตระหนักถึงอันตรายนี้เร็วกว่าคนส่วนใหญ่

บางครั้งคนจริงใจก็เป็นคนแรกที่คุณหลอกลวง โดยเฉพาะอย่างยิ่งเมื่อผลประโยชน์จากการหลอกตัวเองนั้นมากมายเหลือเกิน

ดูเหมือนเขาจะเชื่ออย่างแท้จริงว่าเทคโนโลยีนี้อันตรายเกินกว่าจะมอบให้ใครก็ได้ และเขาก็เชื่ออย่างแท้จริงเช่นกันว่าเขาได้ตระหนักถึงอันตรายนี้ก่อนคนส่วนใหญ่

สองประโยคนี้รวมกันเป็นชุดการรับรองตนเองที่สมบูรณ์ เขาไม่จำเป็นต้องประกาศตนเองว่าเป็นผู้พิทักษ์มนุษยชาติ เขาเพียงแต่ต้องกำจัดผู้ที่เขาคิดว่าไม่น่าเชื่อถืออย่างต่อเนื่อง: ตลาดไม่ดี ประชาชนไม่ดี รัฐเผด็จการไม่ดี บริษัทอื่นๆ ไม่ระมัดระวังมากพอ เมื่อทุกคนถูกกำจัดไปแล้ว ผู้ที่เหมาะสมที่สุดที่จะกุมพวงมาลัยกลับกลายเป็น แอนโทรปิก อย่างน่าขัน

จุดจบของกระบวนการคัดออกก็คือตัวเขาเองเสมอ

เขาไม่เชื่อว่าใครมีสิทธิ์ที่จะตัดสินอนาคตของมนุษยชาติ

ดังนั้นเขาจึงตัดสินใจลงมือทำด้วยตัวเอง

บริษัทเอกชนแห่งสุดท้าย

เมื่อวันที่ 14 สิงหาคม 2569 มีประโยคหนึ่งจากพอดแคสต์

"ภายในบริษัทแอนโทรปิก พวกเขามีความมั่นใจมาก หลายคนที่ผมไว้ใจบอกผมว่า ดาริโอเคยพูดว่า วันหนึ่งแอนโทรปิกอาจกลายเป็นบริษัทเอกชนแห่งเดียวในโลก"

ผู้ที่กล่าวเช่นนี้คือ กาวิน เบเกอร์ ผู้จัดการกองทุนเฮดจ์ฟันด์ที่ลงทุนใน SpaceX เขาเสริมว่าในวิสัยทัศน์นั้น มีเพียงองค์กร Anthropic และรัฐบาลเท่านั้น แค่นั้นเอง

ภายในวันเดียว วลีดังกล่าวก็แพร่กระจายอย่างรวดเร็วในโซเชียลมีเดีย

"นั่นมันดูหยิ่งยโสไปหน่อย" เดวิด แซ็กส์ อดีตที่ปรึกษาทำเนียบขาวด้านปัญญาประดิษฐ์และสกุลเงินดิจิทัล และปัจจุบันเป็นประธานร่วมของสภาที่ปรึกษาด้านเทคโนโลยีของประธานาธิบดีกล่าว "มันคล้ายกับ SBF นิดหน่อย"

ในเย็นวันถัดมา ดาริโอได้โพสต์ข้อความยาวสองข้อความบนเว็บไซต์ X เพื่อตอบโต้

บทความแรกกล่าวถึงเรื่องการกำกับดูแล เขาบอกว่าแนวทาง "รวมศูนย์หรือกระจายอำนาจ" เป็นทางเลือกที่ผิดพลาด ระบบที่ดีอย่างแท้จริงคือระบบที่กระจายอำนาจ

"ระบบศาลอย่างเป็นทางการอาจดูแข็งกระด้างและเอื้อประโยชน์ต่อชนชั้นสูงในบางครั้ง แต่ก็สามารถปกป้องผู้ที่อ่อนแอได้ดีกว่าทางเลือกอื่น นั่นคือการตัดสินโดยฝูงชน ในแง่ที่ดีที่สุด สถาบันสามารถส่งเสริมแนวคิดมากกว่าตัวบุคคล"

บทความที่สองกล่าวถึงการเผยแพร่ข้อมูล เขาชี้ว่าความรู้สึกเชิงลบของสาธารณชนที่มีต่อ AI นั้นเกิดจากวิกฤตความเชื่อมั่น จากนั้นเขาก็เขียนส่วนที่สำคัญที่สุดของบทความยาวสองบทความของเขา:

"ผมคิดว่าคำวิจารณ์ที่แม่นยำที่สุดเกี่ยวกับบริษัท AI รวมถึง Anthropic ในตอนนี้ คือ เรายังทำตามสัญญาใหญ่ที่ให้ไว้ว่าจะสร้างประโยชน์ให้โลกไม่ได้ นั่นเป็นความผิดของเราเองทั้งหมด"

"แนวทางที่มีประสิทธิภาพอย่างแท้จริงคือการรักษาโรคมะเร็งให้หายขาด"

บทความยาวทั้งสองชิ้นของเขาไม่ได้กล่าวถึงข่าวลือโดยตรงเลย เขาใช้คำถามจริงข้อหนึ่งเพื่อหลีกเลี่ยงคำถามอีกข้อหนึ่ง

เขากล่าวว่า การที่จะรักษาโรคมะเร็งได้อย่างแท้จริงนั้น หมายถึงการใช้ปัญญาประดิษฐ์ (AI) เพื่อขับเคลื่อนความก้าวหน้าทางการแพทย์ ทำให้ยาใหม่ๆ พร้อมใช้งานเร็วกว่าโรคอื่นๆ

นี่คือข้อความสำหรับผู้ที่เสียชีวิตในปี 2006 บุคคลนั้นรอคอยยาขวดหนึ่ง รอมานานมาก แต่ยานั้นก็ไม่เคยมาถึง

นับจากนั้นเป็นต้นมา เขาเชื่อว่าความช้าเป็นบาป เมื่อใครเชื่อว่าความช้าเป็นบาป พวกเขาก็จะมองว่าความเร็วเป็นยาแก้เพียงอย่างเดียว ยาแก้เป็นสิ่งที่ดี แต่เขาต้องการให้ทุกคนเชื่อว่ามีเพียงเขาเท่านั้นที่สามารถเตรียมยาแก้ได้

ในปี 1986 อลัน มัวร์ นักเขียนชาวอังกฤษ ได้ตีพิมพ์หนังสือการ์ตูนเรื่อง *The Guardians* ซึ่งต่อมาได้ถูกนำไปสร้างเป็นภาพยนตร์ ตัวละครหนึ่งในภาพยนตร์เรื่องนี้คือ เอเดรียน วิทท์ หรือที่รู้จักกันในนามฟาโรห์ ผู้ที่อ้างว่าตนเองเป็นบุคคลที่ฉลาดที่สุดในโลก

เขามองเห็นหายนะที่กำลังจะเกิดขึ้นก่อนใครๆ สงครามนิวเคลียร์ วันสิ้นโลก มนุษยชาติทำลายล้างตัวเอง เขาเตรียมตัวสำหรับเรื่องนี้มาครึ่งชีวิต แล้วเขาก็รู้ว่าการเตือนเพียงอย่างเดียวนั้นไร้ประโยชน์

เขาจึงจุดระเบิดทำลายล้างด้วยตัวเอง ในชั่วข้ามคืน เมืองหลายแห่งก็หายไปจากแผนที่

เขาเชื่อว่าเมื่อใดที่มนุษยชาติได้เห็นความหายนะ มหาอำนาจทั้งสองจึงจะหยุดการต่อสู้ และเมื่อนั้นโลกจึงจะบรรลุถึงสันติสุขได้

เขาเป็นฆาตกร แต่เขาก็เชื่อว่าตัวเองเป็นผู้ช่วยชีวิตด้วยเช่นกัน

ในที่สุดทุกอย่างก็เป็นไปตามที่เขาปรารถนา เขาถามดร.แมนฮัตตันผู้มีผิวสีฟ้าและเกือบจะรอบรู้ทุกสิ่งว่า:

"จบแล้วเหรอ? เอเดรียน ไม่มีอะไรจบหรอก ทุกอย่างจะไม่มีวันจบ"