往下拉回到首頁
Gemma 4 終於在 Llama.cpp 上穩定了,可以放心用

Gemma 4 終於在 Llama.cpp 上穩定了,可以放心用

Gemma 4 on Llama.cpp should be stable now

欸你知道嗎,如果你有在用 Llama.cpp 跑 AI 模型,Gemma 4 這個模型之前一直有些小問題,但現在終於全部修好了。有個開發者已經穩定跑 Gemma 4 31B 這個版本好一陣子,完全沒問題。簡單來說就是,這個模型現在可以放心用了。如果你要自己試試看,記得用 `--chat-template-file` 這個指令搭配特定的模板檔案,然後加上 `--cache-ram 2048` 這個參數,效能會更好。說真的,對於想在自己電腦上跑 AI 的人來說,這是個不錯的消息。

相關標籤

Gemma 4llama.cppmodel optimizationquantizationQ5chat templatestability fix