X平台角色AI退出引髮用戶抗議，相關帖子迅速走紅

ChARacter.AI 週一遭遇了用戶突然的反抗，數十名 X 平台上的用戶在一張病毒式傳播的截圖引發了一波用戶流失後，慶祝他們退出了這款角色扮演聊天機器人應用程序。

這一刻反映了一場更廣泛的辯論，即用戶與應用程序的 AI 夥伴之間的聯繫有多麼深厚，以及對於最忠實的粉絲來說，離開應用程序有多麼困難。

週一，一位用戶的欣喜若狂的聲明將這場反彈推向了高潮。 聲明“終於徹底放棄 character.ai 了，萬歲！”配上一個微笑的動漫人物 GIF 圖。

該帖子獲得了超過 3800 個贊、數百次轉發、119 次收藏和超過 42000 次瀏覽，引發了一場討論，用戶們將戒掉該應用程序比作克服成癮。

“作為一個目前正徘徊在戒除使用角色AI和再次復吸之間的人，你們每個人說的都完全正確，”另一位X用戶說道。 寫道其他用戶則自稱是該應用的重度用戶，表示他們曾沉迷於此應用，並在艱難時期將其作為情感寄託。

該平台由前谷歌工程師 Noam Shazeer 和 Daniel De Freitas 於 2022 年推出，通過提供可定制的 AI 角色用於角色扮演、娛樂或創意故事講述而迅速發展壯大。

儘管爭議不斷，報告據估計，Character AI的月活躍用戶超過2800萬。 自發布以來，該應用在Google Play上的下載量已超過5000萬次，在iOS上獲得了超過47.2萬條評分。

此前一天，一位名為“John TwinkaTRON”的用戶發布了一張病毒式傳播的截圖，顯示了 Character.AI 的刪除提示，隨後出現了一波用戶離職潮。

“你會失去一切，”提示語說“與你的賬號相關的角色、聊天記錄、我們分享的愛、點贊、消息、帖子以及我們共同擁有的回憶。”

該帖子在 48 小時內獲得了超過 11 萬個贊、近 8000 次轉發和超過 360 萬次瀏覽，引發了人們對該應用程序依賴於基於內疚感的設計的指責。

一位用戶稱這條信息“太具剝削性質”，另一位用戶則寫道，這對那些試圖戒除毒癮的人來說“簡直糟透了”。 一些用戶表示，看到截圖後，他們立即刪除了自己的賬號。

“在保持角色AI清潔數月（6-7個月？）後，我終於決定永久刪除我的賬號，”另一位用戶說道。 寫道“作為一名曾經的癮君子，我相信這對我來說是正確的選擇。”

Character.AI的用戶抗議正值該公司一系列備受矚目的爭議事件之際。 美國的一些家庭起訴了Character.AI，指控其聊天機器人鼓勵自殘行為。 自殺或者與未成年人進行不當互動。 這些案例促使該公司禁止18歲以下用戶進行開放式聊天。 介紹新的年齡驗證和安全措施。

儘管爭議不斷，伴侶人工智能市場規模估計已達150億美元，預計未來還將達到……310億美元到2032年。

Character AI 的一位發言人告訴解密該公司在一份聲明中表示，隨著平台的發展，公司將繼續努力改進其產品和安全系統。

他們表示：“我們非常重視數百萬用戶組成的社區，並將始終優先向他們提供平台變更的更新信息。”他們還補充說，隨著年齡驗證系統和安全措施的不斷完善，公司“將繼續進行測試、監控和迭代”。

10 月，該公司宣布將限制美國 18 歲以下用戶的訪問權限，該限制將於 11 月 25 日生效。

一旦實施，18歲以下的用戶將被“引導至其他多模態內容創作功能，包括使用角色創建視頻、故事和直播”。 該限制將在未來幾個月內推廣至其他國家。

發言人表示：“我們相信，我們的一系列技術將創建一個可靠的年齡鑑定係統。我們將持續進行測試、監控和迭代，觀察我們的功能運行情況以及整個行業的技術發展情況。”