往下拉回到首頁
Unsloth 為 Mistral Small 4 推出修復更新,所有量化版本都有份

Unsloth 為 Mistral Small 4 推出修復更新,所有量化版本都有份

Unsloth just dropped a fix for Mistral Small 4—and it's a game changer for quantized models

如果你有在用 Mistral Small 4 的量化版本(quantized models),Unsloth 剛剛替每一個量化等級都推出了更新。這聽起來可能很無聊,但實際上代表推論速度可能變快、記憶體使用效率更好,或兩者都有。更新已經在 Hugging Face 上線了,如果你正在玩這個模型,值得去看一下改了什麼。