別被騙了！ChatGPT 其實不是什麼「高級抽象化」

你有沒有聽過有人說大型 AI（LLM）是什麼「更高層級的抽象化」，可以讓程式設計變得超簡單？說真的有點扯。簡單來說就是，LLM 根本不是什麼聰明的推理機器，它就是個超級厲害的「模式複製機」——在海量資料上訓練到會說話而已。就像是一個很會背台詞的演員，看起來很聰明，但其實沒有真正理解劇本在講什麼。這為什麼重要呢？因為如果你把它當成真正的「高級工具」來用，就會過度相信它的能力，結果做出爛決策，最後系統一超出它訓練過的範圍就直接爆炸。與其把 AI 當成什麼神奇的銀彈，不如把它當成一個強大但有限的工具來用，這樣才能建造出真正靠譜的系統。