往下拉回到首頁
自己製作高品質 GGUF 量化模型的工具(完整文件 + 網頁介面)

自己製作高品質 GGUF 量化模型的工具(完整文件 + 網頁介面)

Tool for Creating Your Own High-Quality GGUF Quants (Docs + Web UI)

如果你想自己製作 GGUF 量化模型,我整理了 GGUF-Tool-Suite 的完整文件和一個簡單易用的網頁介面,讓整個過程變得輕鬆許多。 文件:https://github.com/Thireus/GGUF-Tool-Suite/tree/main/docs 網頁介面:https://gguf.thireus.com/quant_assign.html 這個工具的目標是讓任何人都能自動測試和製作各種大小的 GGUF 模型,相容於 ik_llama.cpp 和 llama.cpp。

關鍵字

GGUF quantsmodel quantizationweb UIdocumentationopen source toolbenchmarking