往下拉回到首頁
DeepSeek V3.2 在 llama.cpp 上開頭的思考標籤憑空消失,Open WebUI 沒辦法摺疊了

DeepSeek V3.2 在 llama.cpp 上開頭的思考標籤憑空消失,Open WebUI 沒辦法摺疊了

DeepSeek V3.2 on llama.cpp: Missing Opening Think Tags Breaking Thought Collapse

有個人在用 llama-server 跑 DeepSeek V3.2,結果遇到一個超奇怪的問題:模型的推理過程開頭的思考標籤(think tag)就這樣消失了,只剩下中間的推理文字和結尾的標籤。因為這樣,Open WebUI 沒辦法自動摺疊思考區塊,使用者就會看到一堆思考過程,超煩。他用的是 512GB 的機器,試過開關推理功能都沒用。最有可能是 GGUF 檔案裡面的聊天範本設定出問題了。如果你也在用 DeepSeek,這個問題可能會影響你的使用體驗。