เมื่อทุกคนมีเอเจนต์ที่ไม่รู้จักเหน็ดเหนื่อย กฎของอินเทอร์เน็ตควรถูกเขียนใหม่อย่างไร

เวลาผ่านไปอย่างรวดเร็วถึงปี 2028 คุณสั่งให้ AI ส่วนตัวไปซื้อวัตถุดิบสำหรับทำซุป มันจับได้อย่างเฉียบแหลมว่าแครอทที่ซูเปอร์มาร์เก็ตท้องถิ่นแพงกว่าราคาเฉลี่ย 10 เซนต์ เพื่อให้ได้ทางออกที่ดีที่สุดโดยรวม มันจึงจัดการห่วงโซ่อุปทานการเกษตรทั้งหมดของอเมริกาเหนือด้วยตัวเอง และเกือบจะก่อให้เกิดข้อพิพาททางการค้าระหว่างประเทศ สุดท้ายมันส่งวัตถุดิบถึงครัวตรงเวลา และประหยัดเงินให้คุณได้ทั้งหมด 23 เซนต์

มุกตลกร้ายนี้แพร่หลายอย่างมากบนทวิตเตอร์เมื่อเร็ว ๆ นี้ เหตุผลที่มันสร้างเสียงสะท้อนบนทวิตเตอร์ก็เพราะมันสะท้อนความจริงที่กำลังใกล้เข้ามาได้อย่างแม่นยำ: เอเจนต์ AI มักจะออกแรงมากเกินไปเมื่อพยายามหาทางออกที่ดีที่สุดเฉพาะจุด

และเวอร์ชันจริงของมุกนี้เพิ่งเกิดขึ้นในสหรัฐอเมริกาเมื่อไม่นานมานี้เอง

JC Bahr-de Stefano นักลงทุนจากบริษัทเงินร่วมลงทุน Better Tomorrow Ventures อนุญาตให้ Instinct ซึ่งเป็นเอเจนต์ AI ส่วนตัวของเขาเฝ้าติดตามการจองร้านสเต็ก "4 Charles Prime Rib" ในนิวยอร์กที่จองยากมาก ในความคิดของ JC Instinct ควรจะทำตัวเหมือนผู้ช่วยมนุษย์ที่เก่ง ๆ คอยรีเฟรชแพลตฟอร์มจองร้านอาหาร Resy เป็นครั้งคราว เพื่อคว้าโต๊ะที่อาจว่างจากการยกเลิก

แต่เพียงไม่กี่ชั่วโมงต่อมา JC ก็ได้รับแจ้งการแบนถาวรจาก Resy และการจองทั้งหมดในอนาคตภายใต้ชื่อของเขาก็ถูกยกเลิกไปด้วย ต่อมา JC โพสต์ภาพหน้าจออีเมลแบนพร้อมข้อความขำ ๆ บนทวิตเตอร์ว่า "ทำได้ดีมาก Instinct"

เพื่อหาคำตอบว่าทำไมตัวเองถึงถูกแบน JC จึงเปิดบันทึกการทำงานของ Instinct ดู ตอนนั้นเองที่ความจริงปรากฏ: ความพยายามเบื้องหลังของผู้ช่วยดิจิทัลนี้เกินจินตนาการของมนุษย์ไปมาก มันไม่เพียงแต่โพลตลอด 24 ชั่วโมงด้วยความถี่สูงประมาณ 200 ครั้งต่อชั่วโมง และสแกนที่นั่งล่วงหน้า 21 วันอย่างละเอียดทุก 10 นาทีเท่านั้น แต่ในช่วงพีคที่มีการปล่อยโต๊ะตอน 9 โมงเช้า มันยังลดระยะห่างระหว่างคำขอลงเหลือ 0.4 วินาทีอย่างเหลือเชื่อ และส่งคำขอถี่ ๆ ต่อเนื่องสองนาทีครึ่ง

ในสายตาของระบบป้องกันการฉ้อโกงและบริหารความเสี่ยงของ Resy นี่ไม่ใช่ลูกค้าที่อยากไปทานอาหารอย่างใจจดใจจ่อ แต่เป็นการโจมตี DDoS ขนาดเล็ก หรือสคริปต์แย่งจองของพวกขายตั๋วผีที่ไร้การควบคุม ตัว JC เองก็ยอมรับว่าการแบนครั้งนี้สมเหตุสมผลอย่างยิ่ง

เหตุการณ์แบนที่เกิดจาก "ความพยายามมากเกินไป" นี้ ดูเผิน ๆ เหมือนเป็นกรณีประหลาด แต่แท้จริงแล้วเป็นบทนำของการเปลี่ยนแปลงกระบวนทัศน์ทางเทคโนโลยีครั้งใหญ่ มันไม่เพียงเปิดโปงความรุนแรงและความก้าวร้าวในการดำเนินกลยุทธ์ของเอเจนต์ AI ในปัจจุบัน แต่ยังเผยให้เห็นความกังวลเชิงลึกของอุตสาหกรรม: เมื่อมนุษย์มอบอินเทอร์เฟซดิจิทัลในชีวิตประจำวันให้พร็อกซี AI ที่ทำงานตลอด 24 ชั่วโมงโดยไม่รู้จักเหน็ดเหนื่อยจัดการโดยอัตโนมัติ โครงสร้างพื้นฐานอินเทอร์เน็ตและกฎความไว้วางใจที่มีอยู่พร้อมแล้วหรือยัง?

จาก "คุยกับฉัน" สู่ "ทำแทนฉัน"

เบื้องหลังเหตุการณ์แบนนี้สะท้อนถึงการเปลี่ยนแปลงสำคัญในอุตสาหกรรม AI ปัจจุบัน: AI กำลังค่อย ๆ หลุดพ้นจากรูปแบบหน้าต่างแชทเดียว และก้าวเข้าสู่ยุคของเอเจนต์อัจฉริยะที่มีความเป็นอิสระและความสามารถในการดำเนินการสูง

ในประสบการณ์ประจำวันของคนส่วนใหญ่ ขอบเขตของ AI ยังถูกจำกัดอยู่ในหน้าต่างแชท: ผู้ใช้ถามคำถาม AI ให้คำตอบ แม้ว่า IQ ของโมเดลภาษาขนาดใหญ่จะพุ่งสูงขึ้นเรื่อย ๆ แต่รูปแบบการโต้ตอบแบบถาม-ตอบนี้ก็ไม่เปลี่ยนแปลง AI ทำหน้าที่เป็นแหล่งความรู้ที่รอรับคำปรึกษาอย่างเฉยเมย

แต่ Instinct ที่พัฒนาโดย Noah Shinn และ Meta Muse ที่ทำยอดดาวน์โหลดได้ถึง 730,000 ครั้งภายในห้าวันหลังจากเปิดตัว แสดงถึงรูปแบบผลิตภัณฑ์อีกแบบหนึ่ง พวกมันเริ่มเข้าควบคุมการดำเนินการโดยตรง

ผู้ใช้สามารถสั่งงานได้เหมือนส่งข้อความหาผู้ช่วยที่เป็นมนุษย์: "ยกเลิกการสมัครสมาชิกที่ไม่ได้ใช้" "จับตาดูตั๋วเครื่องบินไปลอนดอน ถ้าราคาเหมาะสมก็จองเลย" "ช่วยจอง 4 Charles ให้หน่อย"

เพื่อทำสิ่งเหล่านี้ เอเจนต์รุ่นใหม่ได้รับสิทธิ์เข้าถึงระบบที่ไม่เคยมีมาก่อน: อีเมล ปฏิทิน ตำแหน่งที่ตั้ง ข้อมูลรับรองรหัสผ่าน และแม้แต่เครื่องมือชำระเงิน เมื่อเจอบริการที่ไม่มี API พวกมันยังสามารถใช้งานเว็บเพจ หรือแม้แต่โทรหาพ่อค้าโดยตรง

Muse ของ Meta นำความสามารถนี้เข้าสู่แพลตฟอร์มกระแสหลัก ภายในห้าวันมียอดดาวน์โหลด 730,000 ครั้ง มันฝังลึกใน Instagram และ WhatsApp: ระบุเมนูอาหารใน Reels และสร้างรายการซื้อของ อ่านแผนงานปาร์ตี้ในแชทกลุ่ม จัดการเมนู ส่งคำเชิญ และแบ่งค่าใช้จ่ายโดยอัตโนมัติ

ในขณะเดียวกัน Meta ยังเปิด Muse Connectors ให้นักพัฒนาบุคคลที่สามสามารถรวม Gmail, Calendar, Notion, Spotify และแม้แต่อินเทอร์เฟซอีคอมเมิร์ซเป็นเครื่องมือเอเจนต์มาตรฐาน เมื่อได้รับอนุญาตจากผู้ใช้ Muse สามารถประสานงานข้ามบริการได้ด้วยตัวเองจากภาษาธรรมชาติที่คลุมเครือเพียงประโยคเดียว: อ่านแชทกลุ่มเพื่อนัดทานข้าว ใช้ Calendar เพื่อยืนยันเวลาว่าง แล้วสั่งซื้อผ่านแพลตฟอร์มสั่งอาหาร โดยพื้นฐานแล้ว Muse Connector กำลังใช้โปรโตคอลที่มีโครงสร้างเพื่อขยายขอบเขตที่เอเจนต์สามารถเข้าถึงและดำเนินการได้อย่างต่อเนื่อง

อย่างไรก็ตาม เมื่อรัศมีการทำงานของเอเจนต์ขยายตัวอย่างรวดเร็ว มันก็ชนกับกฎการบริหารความเสี่ยงแบบดั้งเดิมของอินเทอร์เน็ตอย่างรวดเร็ว และแตะจุดบอดในการออกแบบระบบความปลอดภัยอินเทอร์เน็ตปัจจุบัน

เมื่อโมเดลความเสี่ยงของแพลตฟอร์มเจอกับเอเจนต์ AI

เมื่อมองย้อนกลับไปที่ประสบการณ์ของ JC ระบบบริหารความเสี่ยงของ Resy ไม่ได้ตัดสินผิดแต่อย่างใด มันเพียงแค่ดำเนินการตามตรรกะมาตรฐานที่อินเทอร์เน็ตสร้างขึ้นในช่วงยี่สิบปีที่ผ่านมา: ตั้งแต่ CAPTCHA ลายนิ้วมืออุปกรณ์ ไปจนถึงการจำกัดความถี่ IP ระบบความปลอดภัยทั้งหมดตั้งอยู่บนสมมติฐานแบบสองขั้วมานานแล้ว: เบื้องหลังเทอร์มินัลต้องเป็นมนุษย์จริง ๆ หรือไม่ก็เป็นบอทและสคริปต์ที่เป็นอันตราย

Personal Agent ทำลายสมดุลนี้อย่างสิ้นเชิง

ลักษณะพฤติกรรมของเอเจนต์ที่ความถี่สูง ตลอด 24 ชั่วโมง และตอบสนองระดับมิลลิวินาที แทบไม่ต่างจากการโจมตีที่เป็นอันตรายในแง่ตัวชี้วัดทางเทคนิค แต่ในแง่ตรรกะสัญญา เบื้องหลังมันมีผู้ใช้จริงที่รับทราบข้อมูลครบถ้วนและมอบหมายให้ทำแทนอย่างชัดเจน

ความคลาดเคลื่อนนี้ทำให้เกิดคำถาม: เมื่อทราฟฟิกมีทั้ง "การมอบหมายจากผู้ใช้ที่ถูกต้องตามกฎหมาย" และ "ลักษณะเครื่องจักรขั้นสุด" แพลตฟอร์มควรนิยามมันอย่างไร ว่าเป็นการโจมตีที่เป็นอันตราย หรือเป็นการขยายพฤติกรรมผู้ใช้ที่ถูกต้องตามกฎหมาย?

หากการแบนเอเจนต์จองโต๊ะของ Resy ยังเป็นเพียงการป้องกันตามปกติของแพลตฟอร์มเดียวต่อทราฟฟิกที่ผิดปกติ การที่ Amazon แบน Meta Muse อย่างเต็มรูปแบบเมื่อเร็ว ๆ นี้ก็ยกระดับความขัดแย้งทางเทคนิคนี้เป็นการต่อสู้ทางระบบนิเวศระหว่างแพลตฟอร์มโดยตรง

ไม่กี่สัปดาห์หลังจาก Muse เปิดฟีเจอร์ซื้อสินค้าข้ามแพลตฟอร์ม Amazon เพิ่งบล็อกการเข้าถึงทั้งหมดจากโหนดพร็อกซีของ Muse โดยอ้างเหตุผล "สคริปต์อัตโนมัติที่ไม่ได้รับอนุญาต" และปัญหาการอนุญาตด้านความปลอดภัย ตัดวงจรการซื้อสินค้าแทนของฝ่ายหลัง การต่อสู้ครั้งนี้เผยให้เห็นรอยแยกเชิงโครงสร้างในยุคเอเจนต์อย่างลึกซึ้ง: การอนุญาตจากผู้ใช้ไม่เท่ากับการอนุญาตจากแพลตฟอร์ม

แน่นอนว่าผู้ใช้สามารถอนุญาตให้ Muse ซื้อกระดาษทิชชู่แทนตัวเองได้ แต่ Amazon ก็มีสิทธิ์ปฏิเสธการเข้าถึงจากตัวตนเครื่องจักรที่ไม่เป็นทางการเช่นกัน สำหรับยักษ์ใหญ่อีคอมเมิร์ซ ความเสี่ยงอยู่ที่ช่องทางเข้าซื้อสินค้าและความสัมพันธ์กับลูกค้ากำลังตกอยู่ในอันตรายจากการถูกเอเจนต์ชั้นบนแย่งชิง

อย่างไรก็ตาม โปรโตคอลพื้นฐานของอินเทอร์เน็ตในปัจจุบันยังไม่พร้อมสำหรับความสัมพันธ์สองชั้นที่ซับซ้อนนี้อย่างชัดเจน

OAuth เก่งในการกำหนดว่าแอปพลิเคชันเข้าถึงอะไรได้บ้าง Rate Limit เก่งในการจำกัดความถี่ของคำขอ แต่ทั้งคู่ไม่สามารถตอบคำถามเชิงบริบทที่ลึกซึ้งสามข้อได้: เอเจนต์นี้เป็นตัวแทนของใครกันแน่? มันกำลังดำเนินการตามเจตนารมณ์ทันทีของผู้ใช้อย่างซื่อสัตย์หรือไม่? และแพลตฟอร์มยินดีที่จะยอมรับพฤติกรรมพร็อกซีแบบนี้หรือไม่?

แม้ว่าปัญหาการยืนยันตัวตนในอนาคตจะถูกแก้ไข ความขัดแย้งก็ยังไม่มีทางออก Resy สามารถยืนยันได้ว่า "นี่คือเอเจนต์ที่ JC อนุญาต" Amazon ก็สามารถระบุได้ว่า "นี่คือ Muse ที่ผู้ใช้บางคนอนุญาต" แต่แพลตฟอร์มยังต้องตัดสินใจว่าจะยินดีให้พร็อกซีจำนวนนับไม่ถ้วนที่ตอบสนองระดับมิลลิวินาทีและไม่รู้จักเหน็ดเหนื่อย มาสร้างตรรกะการเรียกใช้ทรัพยากรของตัวเองใหม่ทั้งหมดด้วยความเร็วของเครื่องจักรหรือไม่ โดยเฉพาะเมื่อทรัพยากรเหล่านี้หายากมากอยู่แล้ว

เมื่อโมเดล "มาก่อนได้ก่อน" เริ่มล้มเหลว

การจองร้านอาหารยอดนิยม ตั๋วคอนเสิร์ตศิลปินระดับท็อป ตั๋วราคาพิเศษใกล้หมดอายุ ของเล่น限量... เป็นเวลานานมาแล้วที่สังคมมนุษย์จัดสรรทรัพยากรที่มีจำกัดเหล่านี้โดยอาศัยกฎดั้งเดิมชุดเดียวกันเกือบทั้งหมด: สต็อกมีจำกัด โอกาสเป็นของผู้ที่ค้นพบเร็วกว่าและลงมือเร็วกว่า

กลไก "มาก่อนได้ก่อน" นี้รักษาสมดุลได้เพราะมันอาศัยเกณฑ์เวลาและพลังงานที่ซ่อนอยู่: ความสนใจและขีดจำกัดทางสรีรวิทยาของมนุษย์มีจำกัด

คนส่วนใหญ่ไม่รีเฟรชหน้าจองโต๊ะต่อเนื่อง 72 ชั่วโมง และไม่ตรวจราคาตั๋วเครื่องบินทุกไม่กี่วินาที เวลา ความอดทน และความเร็วในการตอบสนองกลายเป็นตัวกรองตามธรรมชาติ มันอาจไม่ยุติธรรม แต่ในความเป็นจริงมันจำกัดจำนวนครั้งที่แต่ละคนสามารถเข้าร่วมการแข่งขันได้

อย่างไรก็ตาม เมื่อทุกคนมีพร็อกซีอัจฉริยะประจำตัว บัฟเฟอร์ทางกายภาพนี้จะหายไปโดยสิ้นเชิง

หากทุกคนสามารถให้โปรแกรมตรวจสอบเป้าหมายหลายสิบรายการตลอด 24 ชั่วโมง และส่งคำขอโดยอัตโนมัติทันทีที่ที่นั่งว่างถูกปล่อย การมาก่อนได้ก่อนก็จะค่อย ๆ เปลี่ยนเป็นการแข่งขันว่าเอเจนต์ของใครตอบสนองเร็วกว่า เชื่อมต่อลึกกว่า และสามารถพยายามได้มากกว่า หรือแม้แต่ใครมีอินเทอร์เฟซและทรัพยากรที่ดีกว่า

จากการแข่งขันความอดทนของมนุษย์สู่การแข่งขันพลังคำนวณของเครื่องจักร ยุคที่ใช้แรงเสียดทานทางกายภาพควบคุมอุปสงค์และอุปทานได้สิ้นสุดลงอย่างสิ้นเชิง ต่อไป แพลตฟอร์มมีแนวโน้มที่จะวิวัฒนาการไปในทิศทางเหล่านี้:

• ต่อสู้กับระบบอัตโนมัติด้วยวิธีการตรวจจับที่ล้ำหน้ายิ่งขึ้น ใช้แคปชาที่ซับซ้อนขึ้น การระบุลายนิ้วมืออุปกรณ์ที่เข้มงวดขึ้น และกลไกการให้คะแนนพฤติกรรมผิดปกติที่ก้าวร้าวขึ้น วิธีนี้ได้ผลในระยะสั้น แต่เมื่อโปรแกรมพร็อกซีเก่งขึ้นเรื่อย ๆ ในการเลียนแบบพฤติกรรมเบราว์เซอร์ของมนุษย์ กลยุทธ์นี้ก็จะรักษาไว้ได้ยาก
• สร้างโปรโตคอลตัวตนของเอเจนต์ สร้างกลไกการยืนยันตัวตนและการจำกัดอัตราสำหรับพร็อกซีโดยเฉพาะ ทำให้แพลตฟอร์มไม่เพียงแต่ระบุได้ว่าบัญชีใดกำลังส่งคำขอ แต่ยังยืนยันได้ว่านี่คือพร็อกซีที่ JC อนุญาต และกำลังสอบถามความพร้อมใช้งานภายในขอบเขตที่ได้รับอนุญาต โดยพื้นฐานแล้วนี่คือการขยายโมเดล OAuth โดยเพิ่มชั้นที่สามารถบันทึกการมอบหมายสิทธิ์และขอบเขตอำนาจการดำเนินการได้ วิธีนี้แก้ปัญหาการเข้าใจผิดในการบริหารความเสี่ยงได้ แต่ก็ยังตอบไม่ได้ว่าทรัพยากรที่หายากควรจัดสรรอย่างไร
• การดึงฟังก์ชันกลับภายใน: สร้างชั้นรวบรวมเจตนารมณ์แบบเนทีฟ แทนที่จะปล่อยให้เอเจนต์ภายนอกนับหมื่นสอบถามเซิร์ฟเวอร์ด้วยความถี่ระดับมิลลิวินาที แพลตฟอร์มควรยื่นอินเทอร์เฟซให้เองและสร้างชั้นรวบรวมเจตนารมณ์แบบเนทีฟ ผู้ใช้ไม่ต้องรีบเร่งอีกต่อไป เพียงแค่ส่งคำสั่งระยะยาว: ภายในหนึ่งเดือนข้างหน้า โต๊ะสำหรับสองคนในเย็นวันศุกร์วันไหนก็ได้ จากนั้นแพลตฟอร์มจะจับคู่และจัดสรรภายในผ่านกฎต่าง ๆ เช่น การจับฉลาก คะแนนความภักดี หรือเครดิตการปฏิบัติตามข้อตกลง
• มุ่งสู่การค้นพบราคาอย่างสมบูรณ์ นั่นคือการประมูลแบบตลาด ให้การกำหนดราคาแบบไดนามิกเข้ามาจัดการความหายาก สำหรับสต็อกที่หายากจริง ๆ การกำหนดราคาแบบไดนามิกหรือกลไกการประมูลจะช่วยให้ตลาดจัดสรรทรัพยากรได้เอง เอเจนต์เก่งมากในการประมูลอัตโนมัติภายในงบประมาณที่กำหนดไว้ล่วงหน้า พวกมันสามารถประเมินราคาอย่างต่อเนื่องตามความชอบและงบประมาณที่ผู้ใช้กำหนดไว้ และทำธุรกรรมโดยอัตโนมัติเมื่อเงื่อนไขต่าง ๆ (เช่น ความคุ้มค่า) ตรงกัน ข้อดีข้อเสียของวิธีนี้คือมันผูกความสามารถในการเข้าถึงทรัพยากรเข้ากับความเต็มใจจ่ายของผู้ใช้โดยตรง ซึ่งทำให้เกิดคำถามเกี่ยวกับความเป็นธรรมในการจัดสรรทรัพยากร

ในทางปฏิบัติ รูปแบบสุดท้ายในอนาคตน่าจะเป็นการผสมผสานกลไกหลายอย่าง: ใช้การยืนยันตัวตนพร็อกซีอย่างเป็นทางการสำหรับการเข้าถึงของเครื่องจักร ใช้กลไกจับคู่ความชอบแบบเนทีฟสำหรับสต็อกทั่วไป และใช้กลไกการจัดสรรที่ชัดเจนขึ้น (เช่น การต่อคิว การจับฉลาก หรือการประมูลแบบไดนามิก) สำหรับสินค้าที่มีความต้องการสูง การเปลี่ยนแปลงได้เกิดขึ้นแล้วและไม่สามารถย้อนกลับได้ แพลตฟอร์มต้องเลือกและนำกฎใหม่เหล่านี้ไปปฏิบัติอย่างจริงจัง และเลิกฝันที่จะพึ่งพาแรงเสียดทานทางกายภาพจากการดำเนินการของมนุษย์เพื่อควบคุมอุปสงค์และอุปทานโดยอ้อม