往下拉回到首頁
Qwen3.6 27b 跑起來有多快?你的速度正常嗎?

Qwen3.6 27b 跑起來有多快?你的速度正常嗎?

What speed is everyone getting on Qwen3.6 27b?

欸你知道嗎,有人在問 Qwen3.6 這個 AI 模型(27B 版本)跑起來的速度。他用 llamacpp 這個工具,在 3 張顯卡上跑,結果只跑出 13 tps(就是每秒產生 13 個字的意思),然後他有點擔心這樣是不是太慢了。簡單來說就是,他想知道這個速度到底正不正常,有沒有其他人也在跑同一個模型,可以比較一下。如果你也有在自己電腦上跑 AI 模型,這篇應該滿有參考價值的。