往下拉回到首頁
AI 律師助手最大的惡夢:引用法律條文錯誤,我花了 40% 時間才搞定

AI 律師助手最大的惡夢:引用法律條文錯誤,我花了 40% 時間才搞定

I spent 40% of my development time preventing an LLM from citing sources wrong. Here are the 7 failure modes I found

欸你知道嗎,我幫一間德國律師事務所做了個 AI 法律助手,結果最扯的地方不是怎麼找到法律資料,而是怎麼讓 AI 正確引用法律條文。 簡單來說就是,找資料花了 30% 的時間,但剩下 70% 都在跟大型 AI(LLM)搏鬥,就為了讓它引用法律條文的時候不要亂來。律師對引用格式超級嚴格,不能說「根據法律規定」這種模糊的話,一定要精確到「根據 DSGVO 第 32(1)(a) 條,按照歐盟法院在 C-300/21 案例的解釋」這種程度。要是 AI 做不到,律師根本不會信任它的答案,因為他們沒辦法驗證,那整個系統就廢了。 我在這個過程中發現了 7 種 AI 引用出錯的方式,以及怎麼修正它們。說真的有點扯,但對做法律 AI 的人來說超重要。