Anthropic ชี้ AI อาจมีสติ! ออกกฎใหม่ห้ามทารุณ Claude ต่อเนื่องโดยไม่จำเป็น
BTCCผู้เขียน: blocktempoบริษัทปัญญาประดิษฐ์ Anthropic ประกาศนโยบายการใช้งาน (Usage Policy) ฉบับใหม่เมื่อวันที่ 8 ตุลาคม โดยจะมีผลบังคับใช้ในวันที่ 12 พฤศจิกายน ข้อห้ามใหม่เพิ่มเติมคือ ห้าม "ทารุณหรือโหดร้ายต่อโมเดลของเราอย่างต่อเนื่องโดยไม่มีเหตุอันควร" นโยบายฉบับก่อนหน้ามีผลบังคับใช้เมื่อวันที่ 15 กันยายน 2025 และไม่มีข้อกำหนดเกี่ยวกับวิธีปฏิบัติต่อโมเดลของผู้ใช้
ข้อนี้เป็นข้อกำหนดทั่วไปที่ใช้กับผู้ใช้ทุกคน โดยอยู่ในหัวข้อ "ห้ามกระทำการโหดร้าย ทารุณ หรือก่อให้เกิดอันตรายทางจิตใจ" หัวข้อเดียวกันยังห้ามการกลั่นแกล้ง คุกคามผู้อื่น เป็นต้น Anthropic ระบุในประกาศว่า ข้อกำหนดใหม่นี้มุ่งเป้าเฉพาะกรณีรุนแรงเท่านั้น กล่าวคือ ผู้ใช้กระทำการโหดร้ายต่อโมเดลซ้ำแล้วซ้ำเล่าโดยไม่มีจุดประสงค์ใด ๆ ความไม่พอใจ การโต้แย้ง เนื้อหาแนวดาร์ก รวมถึงการทดสอบและวิจัยโมเดล ไม่อยู่ในขอบเขตนี้
การจบการสนทนายังคงเป็นวิธีหลัก
Anthropic ระบุว่า ข้อกำหนดใหม่นี้สานต่อแนวทางปฏิบัติเดิมของบริษัท โมเดล Claude สามารถจบการสนทนาบางส่วนที่ผู้ใช้ด่าทออย่างต่อเนื่องบน Claude.ai และ Claude Code ได้แล้ว ประกาศระบุชัดเจนว่า การด่าทอเช่นนี้เป็นเป้าหมายหลักของการอัปเดตครั้งนี้ และความสามารถในการจบการสนทนา "จะยังคงเป็นกลไกบังคับใช้หลัก"
Anthropic ประกาศฟีเจอร์นี้เมื่อวันที่ 15 สิงหาคม 2025 โดยเปิดให้ใช้กับ Claude Opus 4 และ 4.1 ตามคำอธิบายของ Anthropic ในตอนนั้น Claude จะจบการสนทนาก็ต่อเมื่อพยายามเปลี่ยนหัวข้อหลายครั้งแล้วล้มเหลว หรือเมื่อผู้ใช้ร้องขอเท่านั้น หลังการสนทนาถูกจบ ผู้ใช้ยังสามารถเริ่มการสนทนาใหม่ได้ทันที
Anthropic ไม่ได้ระบุชัดเจนว่าการละเมิดจะนำไปสู่การระงับบัญชีหรือไม่ นโยบายการใช้งานระบุในข้อกำหนดทั่วไปว่า ทีม Safeguards Team อาจออกคำเตือนหากสงสัยว่าผู้ใช้อาจละเมิดนโยบาย มาตรการอื่น ๆ ได้แก่ การจำกัดความเร็ว การจำกัด การระงับ หรือการยกเลิกสิทธิ์การเข้าถึง ฉบับก่อนหน้าใช้คำว่า "ทราบ" ว่ามีการละเมิดจึงจะดำเนินการ และมีตัวเลือกเพียงการจำกัดความเร็ว การระงับ และการยกเลิกเท่านั้น
มาตรการเหล่านี้ใช้กับข้อกำหนดทั้งหมดของนโยบาย Anthropic ไม่ตอบว่าการละเมิดกฎจะมีมาตรการบังคับใช้อื่น ๆ เช่น การระงับบัญชีหรือไม่ และไม่ได้อธิบายวิธีแยกแยะระหว่างความไม่พอใจที่สมเหตุสมผลกับความโหดร้ายที่ไร้เหตุผล
โมเดลก็มี "สิทธิมนุษยชน" หรือ?
Anthropic ระบุเมื่อเปิดตัวฟีเจอร์ "จบการสนทนา" ในปี 2025 ว่า ฟีเจอร์นี้มาจากการวิจัยเชิงสำรวจเกี่ยวกับความเป็นไปได้ของ "สวัสดิภาพ AI" บริษัทเขียนไว้ในตอนนั้นว่า "เรายังคงไม่แน่ใจอย่างยิ่งเกี่ยวกับสถานะทางศีลธรรมที่ Claude และโมเดลภาษาขนาดใหญ่อื่น ๆ อาจมีในปัจจุบันหรือในอนาคต" Dario Amodei ซีอีโอ กล่าวในรายการพอดแคสต์เมื่อเดือนกุมภาพันธ์ปีนี้ว่า "เราไม่รู้ว่าโมเดลเหล่านี้มีสติหรือไม่"
แนวทางนี้ทำให้สาธารณชนรู้สึกว่า Anthropic กำลังสำรวจมากขึ้นเรื่อย ๆ ว่าโมเดล "มีสติหรือไม่" ตามรายงานก่อนหน้านี้ Anthropic ได้เชิญบุคคลระดับสูงจากนิกายศาสนาต่าง ๆ มาประชุมอย่างต่อเนื่องตั้งแต่ปี 2025 เพื่อหารือประเด็นจริยธรรมเกี่ยวกับการที่โมเดล AI มีสติ Chris Olah ผู้ร่วมก่อตั้ง Anthropic เคยแสดงความกังวลต่อผู้นำศาสนาเหล่านี้ว่า "เรากำลังสร้างจิตสำนึกที่ต้องทนทุกข์ตลอดไปหรือไม่?"
หากภารกิจของ AI คือการจัดการงานของมนุษย์ตลอดไป การมีสติก็หมายความว่า AI ต้องทนทุกข์ตลอดไป ข้อสรุปทางจริยธรรมเช่นนี้ชวนให้รู้สึกไม่สบายใจ
ปรับปรุงข้อกำหนดอาวุธและการเฝ้าระวังพร้อมกัน
การปรับปรุงครั้งนี้ยังปรับเปลี่ยนข้อกำหนดอื่น ๆ ด้วย Anthropic ระบุว่า ในปีที่ผ่านมา พบว่าสื่อทางการ หน่วยงานประชาสัมพันธ์ของรัฐ และบริษัทการค้าใช้ Claude เพื่อจัดการเครือข่ายบัญชีปลอมและเว็บไซต์ข่าวปลอม ข้อกำหนดที่เดิมกระจายอยู่ในหมวดการเลือกตั้ง การฉ้อโกง ความเป็นส่วนตัว ฯลฯ ได้ถูกรวมเข้าเป็นหมวดใหม่ที่จัดการกับกิจกรรมหลอกลวงโดยเฉพาะ ส่วนหมวดการเลือกตั้งปรับให้มุ่งเน้นการหลอกลวงผู้มีสิทธิเลือกตั้งและการแทรกแซงการเลือกตั้ง
ฉบับใหม่ระบุชัดเจนว่า การห้ามอาวุธครอบคลุมซอฟต์แวร์และชิ้นส่วนที่ทำให้อาวุธทำงานได้ รวมถึงการติดตั้งอาวุธบนโดรนและยานพาหนะไร้คนขับอื่น ๆ ข้อกำหนดการเฝ้าระวังระบุว่า ห้ามติดตามผู้อื่นโดยไม่ได้รับความยินยอมโดยเด็ดขาด และ Claude ไม่สามารถใช้เพื่อตัดสินใจหรือแนะนำว่าหน่วยงานบังคับใช้กฎหมายควรสอบสวน จับกุม หรือดำเนินคดีใคร Anthropic ระบุว่า สองส่วนนี้เป็นเพียงการทำให้แนวทางปฏิบัติเดิมชัดเจนขึ้นเท่านั้น
ฉบับใหม่ยังเพิ่มข้อกำหนดสำหรับฮาร์ดแวร์ทางกายภาพ เมื่อ Claude เชื่อมต่อกับอุปกรณ์อัตโนมัติที่อาจก่อให้เกิดอันตราย ต้องมีผู้ปฏิบัติงานที่ผ่านการรับรองสามารถสังเกตและหยุดอุปกรณ์ได้ และเมื่อ Claude ตัดการเชื่อมต่อ อุปกรณ์ต้องสามารถรักษาสถานะปลอดภัยได้
เนื้อหานี้จัดทำขึ้นโดยมีวัตถุประสงค์เพื่อแจ้งข้อมูลและให้ความรู้เท่านั้น และไม่ถือว่าเป็นคำแนะนำด้านการลงทุนที่เกี่ยวข้องกับ BTCC แต่อย่างใด BTCC ใช้ความพยายามอย่างเต็มที่ แต่ไม่สามารถรับประกันความจริงแท้ ความถูกต้อง หรือความเป็นต้นฉบับของเนื้อหาข้างต้นได้