往下拉回到首頁
DeepSeek V3.2 在 llama.cpp 伺服器上遺失開頭思考標籤?

DeepSeek V3.2 在 llama.cpp 伺服器上遺失開頭思考標籤?

DeepSeek V3.2 on llama.cpp: Missing Opening Think Tags Breaking Thought Collapse

有使用者在 llama-server 上執行 DeepSeek V3.2 Unsloth GGUF 時遇到奇怪的問題:模型的推理過程開頭的思考標籤(opening think tag)消失了,導致 Open WebUI 無法摺疊思考區塊。輸出流中只看得到純文字的推理內容和結尾的標籤,開頭的標籤卻不見了。使用者在 512GB 的機器上執行 llama-server,試過開關推理功能都沒有改善。懷疑是 GGUF 檔案裡的聊天範本(chat template)設定有問題。