จีนออกกฎใหม่ควบคุม AI คุยเอง ห้ามส่งเสริมการพนัน-ทำร้ายตัวเอง
รายงานระบุว่า มาตรการใหม่ที่เสนอประกาศเมื่อวันเสาร์ที่ผ่านมา จะใช้กับผลิตภัณฑ์หรือบริการ AI ที่ให้บริการแก่สาธารณะในจีน ซึ่งจำลองบุคลิกภาพมนุษย์และมีส่วนร่วมกับผู้ใช้ทางอารมณ์ผ่านข้อความ ภาพ เสียง หรือวิดีโอ
ข้อเสนอของจีนคาดว่าจะปกป้องผู้เยาว์จากการทำร้ายตัวเอง
ตามร่างกฎระเบียบที่เผยแพร่โดยคณะกรรมการไซเบอร์สเปซ (CAC) เมื่อวันเสาร์ มาตรการเหล่านี้มุ่งเป้าไปที่สิ่งที่เรียกว่า "บริการ AI แบบโต้ตอบคล้ายมนุษย์" ตามการแปลของ CNBC จากเอกสารภาษาจีน
ร่างกฎระเบียบมีข้อเสนอหลายประการ ตัวอย่างเช่น แชทบอท AI ต้องไม่สร้างเนื้อหาที่ส่งเสริมการทำร้ายตัวเองหรือการฆ่าตัวตาย มีส่วนร่วมในความรุนแรงทางวาจา หรือการจัดการทางอารมณ์ที่อาจทำลายสุขภาพจิตของผู้ใช้
นอกจากนี้ แชทบอท AI ยังไม่ควรสร้างเนื้อหาที่ลามกอนาจาร รุนแรง หรือเกี่ยวข้องกับการพนัน ตามร่างกฎระเบียบ หากผู้ใช้เสนอแนะการฆ่าตัวตาย บริษัท AI ต้องมีบุคคลจริงที่รับช่วงบทสนทนาและติดต่อผู้ปกครองหรือบุคคลที่กำหนดทันที
ร่างกฎยังเสนอให้ผู้เยาว์ต้องได้รับความยินยอมจากผู้ปกครองสำหรับการใช้เป็นเพื่อนทางอารมณ์ พร้อมกำหนดขีดจำกัดเวลาในการใช้งาน ภายใต้กฎใหม่นี้ แพลตฟอร์ม AI คาดว่าจะต้องตัดสินใจว่าผู้ใช้เป็นผู้ใหญ่หรือผู้เยาว์ แม้ว่าพวกเขาจะไม่เปิดเผยอายุก็ตาม ในกรณีที่มีข้อสงสัย แพลตฟอร์มต้องใช้การตั้งค่าสำหรับผู้เยาว์ พร้อมเปิดช่องทางสำหรับการอุทธรณ์
หากได้รับการรับรอง กฎเหล่านี้จะเป็นความพยายามครั้งแรกของโลกในการควบคุม AI ที่มีลักษณะคล้ายมนุษย์หรือมีบุคลิกภาพ ตามความเห็นของศาสตราจารย์ Winston Ma จากโรงเรียนกฎหมาย NYU การพัฒนานี้เกิดขึ้นในขณะที่ธุรกิจต่างๆ พัฒนาเพื่อนร่วมทาง AI และดาราดิจิทัลอย่างรวดเร็ว
เมื่อเปรียบเทียบกับกฎระเบียบ AI สร้างสรรค์ของจีนปี 2023 ศาสตราจารย์ Ma ให้ความเห็นว่าสำนวนนี้ "เน้นย้ำถึงการก้าวกระโดดจากความปลอดภัยของเนื้อหาไปสู่ด้านอารมณ์"
ข้อเสนอเหล่านี้มีขึ้นในขณะที่สตาร์ทอัพแชทบอท AI สองแห่งของจีนคือ Z.ai และ Minimax ยื่นขายหุ้น IPO ในฮ่องกงเมื่อเดือนนี้ Minimax เป็นที่รู้จักในระดับสากลจากแอป Talkie AI ที่ให้ผู้ใช้แชทกับตัวละครเสมือนจริง
ตามข้อมูลของ CNBC แอปนี้และเวอร์ชันจีนในประเทศที่รู้จักกันในชื่อ Xingye คิดเป็นมากกว่าหนึ่งในสามของรายได้ของบริษัทในเก้าเดือนแรกของปี โดยมีผู้ใช้งานรายเดือนเฉลี่ยมากกว่า 20 ล้านคนในช่วงเวลาดังกล่าว
สำหรับ Z.ai หรือที่รู้จักกันในชื่อ Zhipu ยื่นคำขอภายใต้ชื่อ Knowledge Atlas Technology แต่ไม่ได้เปิดเผยจำนวนผู้ใช้งานรายเดือน อย่างไรก็ตาม บริษัท AI เปิดเผยว่าเทคโนโลยีของตนอยู่บนอุปกรณ์ประมาณ 80 ล้านเครื่อง รวมถึงสมาร์ทโฟน คอมพิวเตอร์ส่วนบุคคล และยานพาหนะอัจฉริยะ
ตามที่เคยรายงานโดย Cryptopolitan สตาร์ทอัพ AI ทั้งสองแห่ง ซึ่งได้รับการสนับสนุนจาก Alibaba และ Tencent ตั้งเป้าที่จะเข้าสู่ตลาดหลักทรัพย์ฮ่องกงในต้นเดือนมกราคมปีหน้า
แปลโดย D3F1
