아래로 당겨서 돌아가기
개인 평가 후속: Gemma4 26B MoE(Q8) vs Qwen3.5 27B Dense vs Gemma4 31B Dense 비교

개인 평가 후속: Gemma4 26B MoE(Q8) vs Qwen3.5 27B Dense vs Gemma4 31B Dense 비교

Personal Eval follow-up: Gemma4 26B MoE (Q8) vs Qwen3.5 27B Dense vs Gemma4 31B Dense Compared

이전에 발표한 Qwen 3.6 35B vs Gemma 4 26B 비교 글의 후속 업데이트입니다. 특히 다음 사항들을 추적하고 싶었습니다: 1. Gemma 4 26B는 양자화 손실(quantization tax)의 영향을 받았을 수 있으며, 8비트 양자화로 훨씬 더 나은 성능을 낼 수 있습니다. 따라서 이번에는 UD의 Q8_K_XL을 사용하여 이를 테스트하고 싶었습니다 2. 많은 사람들(나 포함)이 Qwen 3.5 27B 밀집 모델이 이 테스트에서 어떻게 수행되는지 궁금해했습니다 3. 밀집 모델 얘기가 나왔으니, Gemma 4 31B도