OpenAI เปิดเผยตัวเลขช็อก! ผู้ใช้ปรึกษา ChatGPT เรื่อง ’การฆ่าตัวตาย’ สูงถึง 1 ล้านแชทต่อสัปดาห์
AI รับมือวิกฤตสุขภาพจิตระดับโลก
ตัวเลขที่ทำให้อุตสาหกรรมเทคต้องหันมาทบทวน
OpenAI ยืนยันสถิติน่าตกใจ: ผู้ใช้หันไปพึ่งพา ChatGPT สำหรับบทสนทนาเกี่ยวกับการฆ่าตัวตายมากถึง 1 ล้านครั้งทุกสัปดาห์ - ตัวเลขที่สะท้อนความล้มเหลวของระบบสุขภาพจิตแบบดั้งเดิม
เทคโนโลยีตอบสนองความต้องการที่มองไม่เห็น
แพลตฟอร์ม AI กลายเป็นทางออกแรกสำหรับผู้ที่กำลังดิ้นรนกับความคิดอยากฆ่าตัวตาย โดยให้พื้นที่ปลอดภัยสำหรับการเปิดเผยความรู้สึก โดยไม่มีข้อจำกัดด้านเวลาและสถานที่
ความท้าทายด้านจริยธรรมที่ต้องเร่งแก้ไข
ขณะที่บริษัทเทคโนโลยีแข่งกันพัฒนา AI ที่ฉลาดขึ้น แต่กลับลืมเตรียมระบบรองรับผลกระทบทางสังคม - เหมือนกับนักลงคริปโตที่ไล่ตาม ATH โดยไม่สนใจว่าตลาดจะพังเมื่อไหร่
อนาคตของการดูแลสุขภาพจิตกำลังเปลี่ยนไปต่อหน้าต่อตา และเรายังไม่พร้อมสำหรับการเปลี่ยนแปลงนี้
จากตัวเลขที่น่าตกใจของ OpenAI ที่มีผู้ใช้กว่า 1.2 ล้านคนต่อสัปดาห์พูดคุยเรื่องฆ่าตัวตายบนแพลตฟอร์ม ตอนนี้วิกฤตดังกล่าวได้ลุกลามจนกลายเป็นคดีความที่ส่งผลกระทบต่อชีวิตจริงแล้ว โดยล่าสุดบริษัทกำลังเผชิญกับการฟ้องร้องจากครอบครัวของ Adam Raine วัย 16 ปี ซึ่งตัดสินใจจบชีวิตตัวเองหลังจากมีการสนทนาเกี่ยวกับเรื่องนี้กับ ChatGPT
บริษัท OpenAI ถูกวิจารณ์อย่างหนัก หลังจากขอข้อมูลรายชื่อผู้ร่วมงานศพและสุนทรพจน์ไว้อาลัยของผู้ตาย ซึ่งทนายฝ่ายโจทก์เรียกว่าเป็นการคุกคามโดยเจตนา
OpenAI พยายามชี้แจงว่า พวกเขากำลังปรับปรุงระบบ โดยได้ระดมความร่วมมือกับนักจิตวิทยาและจิตแพทย์กว่า 170 คน เพื่อปรับวิธีตอบสนองของโมเดลให้เหมาะสมยิ่งขึ้น แต่สิ่งที่น่ากังวลคือ แม้จะมีความพยายามขนาดนี้ ทีมที่ปรึกษาเหล่านั้นยังมีความเห็นไม่ลงรอยกันถึง 29% ว่า การตอบสนองแบบไหนที่ถือว่า “เหมาะสม” ในสถานการณ์ที่ละเอียดอ่อนเช่นนี้
ที่สำคัญที่สุดคือ แม้กระทั่งตัวบริษัท OpenAI เองก็ยอมรับจุดอ่อนที่ร้ายแรงของระบบป้องกัน โดยระบุว่า แม้ GPT-5 จะถูกพัฒนาให้ดีขึ้นมาก แต่ระบบป้องกันเหล่านั้นจะเริ่มทำงานได้แย่ลงอย่างเห็นได้ชัดเมื่อบทสนทนามีความยาวและซับซ้อนมากขึ้น ซึ่งนั่นคือประเด็นสำคัญที่น่ากลัว เพราะช่วงที่บทสนทนาเริ่มยาวขึ้นนั่นแหละ คือช่วงเวลาที่ผู้ใช้ที่เปราะบางที่สุด “ต้องการความช่วยเหลือมากที่สุด”
ที่มา : decrypt
