下に引いて戻る
Gemma 4 26B-A4B GGUF ベンチマーク:最高の量子化版はどれ?

Gemma 4 26B-A4B GGUF ベンチマーク:最高の量子化版はどれ?

Gemma 4 26B-A4B GGUF Benchmarks: Which Quantization Wins?

異なるプロバイダーの Gemma 4 26B-A4B GGUF に対して KL ダイバージェンスベンチマークを実施し、あなたのセットアップに最適な量子化版を見つけるのに役立つ結果を得ました。結果は Unsloth GGUF がパレート最適曲線を支配していることを示しており、メモリ使用量を削減しながら元のモデルの精度を最も良く保持していることを意味します。Unsloth は 22 のモデルサイズ中 21 で優勝し、他のメトリクスでも同様の利点があります。また、Q6_K 量子化をより動的にするよう改善しました。ローカル LLM を実行している場合、このデータは品質と速度の間で最適なトレードオフを選ぶのに役立つはずです。