往下拉回到首頁
Claude 開始亂說誰講了什麼,超危險啦

Claude 開始亂說誰講了什麼,超危險啦

Claude mixes up who said what and that's not OK

欸你知道嗎,Anthropic 的 Claude 最近被發現會搞混誰說了什麼。簡單來說就是,你問它某個對話或文件裡誰講過什麼話,它有時候會亂配對——把 A 說的話硬是說成 B 說的。這聽起來好像沒什麼,但其實超危險的。如果你在寫報告、整理法律文件,或是做任何需要準確引述的工作,結果 Claude 給你的資訊全都搞反了,你可能就會在不知不覺中散播假資訊。說真的,這就像是你問一個見證人「那天誰說了什麼」,結果他每次都記反了一樣。所以啊,以後用 Claude 的時候,關於「誰說了什麼」這種事,千萬不要直接相信,一定要自己再檢查一遍。

相關標籤

hallucinationattributionaccuracyAI limitationsreliability