為什麼 AI 在回答難問題時會開始胡說八道？

你有沒有發現 ChatGPT 在回答日常問題時超聰明，但一旦問到最新研究就開始亂掰？原因在這裡：大型語言模型（LLM）本質上就是「知識混音機」——它們擅長重新組合已有的知識，所以普通問題難不倒它們。但當你把問題推向知識的邊界（也就是已知和未知的交界處），它們就卡住了。訓練資料在那邊變得稀疏又混亂，模型根本不知道該怎麼辦，最後就只能亂猜。就像問某人一個他從沒去過的國家的情況，他會自信地編故事而不是承認不知道。這可能解釋了為什麼最近 AI 的幻覺問題（hallucination）看起來更嚴重：我們在問這些模型超出它們訓練資料範圍的問題。真正的問題不是 AI 壞掉了，而是我們在要求它做一些它從未被設計來做的事。