往下拉回到首頁
764 次呼叫、8 個模型的真相:細節太多反而害小模型,廢話其實很重要,格式偏好根本是迷思

764 次呼叫、8 個模型的真相:細節太多反而害小模型,廢話其實很重要,格式偏好根本是迷思

764 calls across 8 models: too much detail kills small models, filler words are load-bearing, and format preference is a myth

你知道那些到處都在說的提示詞技巧嗎?「要具體」、「加範例」、「用 XML 標籤」——這些招數真的對小型本地模型有效嗎?我決定實測一下,跑了 764 次呼叫橫跨 8 個模型:6 個本地模型(M2 96GB 和 RTX 5070 Ti 透過 Ollama)加上 2 個前沿 API(GPT-4.1-mini 和 Claude Haiku 4.5)來交叉驗證。整個 API 成本才 0.03 美元。結果發現三個會改變你怎麼用本地模型的關鍵發現。首先,細節太多反而會傷害小模型。我在四個不同的結構複雜度等級測試同樣的任務內容。

關鍵字

prompt engineeringsmall modelslocal modelsLLM behaviormodel comparisonprompting techniquesXML tagsexamples