往下拉回到首頁
我測了 764 次才發現:跟小型 AI 說太多細節反而會害它,廢話其實是必需品,你對格式的偏好根本不重要

我測了 764 次才發現:跟小型 AI 說太多細節反而會害它,廢話其實是必需品,你對格式的偏好根本不重要

764 calls across 8 models: too much detail kills small models, filler words are load-bearing, and format preference is a myth

欸你知道嗎,那些網路上到處都在說的 AI 提示詞技巧——「要講得具體」、「加上例子」、「用 XML 標籤」——這些招數真的有用嗎?尤其是對那些你自己電腦上跑的小型 AI 模型?我決定親自驗證,所以就跑了 764 次測試,用了 8 個不同的模型。有 6 個是本地模型(在 M2 96GB 和 RTX 5070 Ti 上用 Ollama 跑),還有 2 個是最新的線上 API(GPT-4.1-mini 和 Claude Haiku 4.5),這樣可以互相比對。整個花費才 0.03 美元,根本佛心。結果發現 3 個會改變你怎麼用本地 AI 的重要發現。首先呢,細節給太多反而會傷害小模型。我拿同一個任務,用 4 種不同的詳細程度去測試。

相關標籤

prompt engineeringsmall modelslocal modelsLLM behaviormodel comparisonprompting techniquesXML tagsexamples