往下拉回到首頁
如何保留 Gemma 4 的思考過程追蹤

如何保留 Gemma 4 的思考過程追蹤

How to Preserve Gemma 4 Thinking Trace in llama.cpp

有位使用者在 llama.cpp 上執行 Gemma 4 31B 模型,想要保留模型內部的推理過程,而不是讓它被丟棄。他們試過加入 --jinja 和 --chat-template-kwargs 搭配 preserve_thinking 設定為 true,但目前還是沒有效果。他們在尋求協助,想找出正確的設定方式來保留思考過程的輸出。