下に引いて戻る
DeepSeek V3.2がllama.cppで思考タグの開始部分を削除している問題

DeepSeek V3.2がllama.cppで思考タグの開始部分を削除している問題

DeepSeek V3.2 on llama.cpp: Missing Opening Think Tags Breaking Thought Collapse

llama-serverでDeepSeek V3.2 Unsloth GGUFを実行しているユーザーが、推論の開始時の思考タグが出力ストリームから消えてしまう問題に直面しています。モデルは推論自体は正常に動作していますが、開始タグが欠落しているため、Open WebUIが思考ブロックを折りたたむことができません。512GBのマシンで実行しており、推論機能のオン・オフを切り替えても改善されません。GGUFファイルのチャットテンプレート設定が原因の可能性があります。