英國法院警告律師使用虛假人工智能引證將受到嚴厲處罰

英格蘭和威爾士高等法院警告律師，依賴ChatGPT等人工智能工具進行法律研究存在風險。 維多利亞·夏普法官裁定，這些生成式人工智能工具無法進行可靠的法律研究。

夏普法官聲稱人工智能工具可能會提供看似連貫且合理的答案，但也可能完全錯誤。 她澄清說，雖然律師可以在研究中使用人工智能，但他們有專業義務在將其用於專業工作之前，參考權威來源來檢查此類研究的準確性。

法官發表上述言論之際，人們越來越擔心律師引用的似乎是人工智能生成的謊言夏普女爵士的裁決列舉了最近兩起案件，這些案件中，律師被發現在法庭訴訟中引用了人工智能生成的虛假案件。 她表示，她的裁決將與英國律師公會和律師協會等專業機構共享。

律師侯賽因援引1.2億美元案件中不存在的案例

律師需警惕：使用人工智能起草未經核實的訴訟文件的危險

在哈倫案中，法院發現了多達45條引文，這些引文要么不存在，要么包含不准確的引文。 令人震驚的是，這些虛假引文最初是……PIc.twitter.com/CbgNy1z7X1

— LaWpoint 烏干達 (@Lawpointuganda) 2025年6月7日

律師阿比德·侯賽因（Abid Hussain）在一樁涉及卡塔爾國家銀行（QatAR National Bank）涉嫌違反融資協議的1.2億美元訴訟中，援引了不存在的案例。 侯賽因提交了一份包含45條引證的申請，其中18條並不存在，而其他許多引證也並不包含所謂的引文。

委託人哈馬德·哈倫（Hamad Al-Haroun）就無意中利用公開的人工智能工具中的虛假數據誤導法庭一事道歉，並表示責任在於他，而不是他的律師侯賽因。 但夏普表示，律師依賴委託人確保法律研究的準確性，而不是委託人確保其準確性，這“令人匪夷所思”。

國王法庭庭庭長夏普法官表示，嚴重影響如果人工智能被濫用，司法行政和公眾對司法系統的信心將受到影響。 她補充說，濫用人工智能的律師可能會面臨公眾譴責，並被移送警方處理。 她呼籲律師公會和律師協會“緊急考慮”採取措施遏制這一問題。

法官還要求律師事務所負責人和律師事務所的管理合夥人確保所有律師在使用人工智能時了解自己的專業和道德責任。

這些回复可能會做出一些根本不真實的自信斷言。 他們可能會引用一些根本不存在的來源。 他們可能會聲稱引用來自某個真實來源的段落，但這些段落實際上並沒有出現在該來源中。

–維多利亞·夏普法官國王法庭分庭庭長

英格蘭和威爾士律師協會首席執行官伊恩·杰弗裡表示，這項裁決暴露了在法律工作中使用人工智能的危險。 他補充說，人工智能工具正越來越多地用於支持法律服務的提供。 然而，生成式人工智能產生的錯誤輸出的真正風險要求律師檢查、審查並確保其工作的準確性。

律師 Forey 在租戶的住房索賠中列舉了五起虛假案件

律師薩拉·福雷（Sarah Forey）在針對倫敦哈林蓋區（Haringey）的一起租戶住房索賠中列舉了五起虛假案件。 福雷否認使用了人工智能但夏普表示，她沒有向法庭提供對所發生事情的連貫解釋。

法官還警告稱，將虛假材料當作真實材料可能被視為藐視法庭，在“最惡劣的情況下”，甚至可能構成妨礙司法公正。 她補充說，這可能導致不履行職業義務的律師受到嚴厲處罰。

夏普表示，福里令人擔憂地缺乏洞察力，並補充說，法院不接受在法庭內無法獲得教科書或電子訂閱服務（如果情況確實如此）能帶來任何超出邊際緩解的效果。

她聲稱，福雷本可以通過搜索國家檔案館的案例網站或前往她所在的律師學院的法律圖書館來核實她所引用的案例。 夏普指出，福雷一定是故意將虛假引用或者使用了人工智能，儘管她在證人陳述中否認了這一點。

上個月，里奇法官說法官認為，在援引五起虛假案件時，當時在博爾特法院3號實習的福雷以及倫敦哈林蓋法律中心的律師的行為不當、不合理且存在疏忽。 他還責令他們所有人支付浪費的費用。

Cryptopolitan 學院：厭倦了市場波動？ 了解 DeFi 如何助你建立穩定的被動收入。 立即註冊