下に引いて戻る
RTX 5090で同じ実際のアーキテクチャ設計タスクでQwen3.6-27B、Qwen3.6-35B-A3B、Qwen3.5-27B、Gemma 4をテストしました

RTX 5090で同じ実際のアーキテクチャ設計タスクでQwen3.6-27B、Qwen3.6-35B-A3B、Qwen3.5-27B、Gemma 4をテストしました

I tested Qwen3.6-27B, Qwen3.6-35B-A3B, Qwen3.5-27B and Gemma 4 on the same real architecture-writing task on an RTX 5090

シンプルだけど興味深いローカルLLMテストを実施しました。当初はQwenの2つのモデルとGemma4だけをテストして寝るつもりでしたが、RedditでQwen3.6-27Bがリリースされたという投稿を見かけたので、それも追加することにしました。テストしたモデルはGemma4、Qwen3.6-35B(RedHatAIのNVFP4量化版)、Qwen3.5-27B(QuantTrioのAWQ量化版)、Qwen3.6-27B(cyankikiのAWQ-INT4量化版)です。ノイズの多い証拠を処理して建築設計の決定を生成する複雑なツールに取り組んでいます。このテストは各モデルの推論能力と指示遵守能力を検証する良い方法で、モデルサイズ、量化方法、実際のパフォーマンス間の興味深いトレードオフが見えてきました。