往下拉回到首頁
Intel Arc Pro B70 終於能跑 AI 模型了,速度到底怎樣?

Intel Arc Pro B70 終於能跑 AI 模型了,速度到底怎樣?

Intel Arc Pro B70 32GB Finally Works with Qwen3.5-27B—Here's the Real Speed Numbers

欸你知道嗎,有人買了 Intel Arc Pro B70 這張顯卡來跑 AI,結果花了好幾個晚上才把軟體搞定。簡單來說就是,他用兩種不同的工具測試,結果都能達到每秒產生 12 個字的速度——聽起來還不錯,但也沒有特別快啦。最扯的是,他試著用一些「加速技巧」來提升效能,結果反而變慢了,可能是他電腦的硬體配置有點問題。不過有另一招在處理大量請求時有幫助,只是處理單一請求時又會變慢。說真的,如果你也在考慮買這張卡來自己跑 AI 模型,這個人的實測數據滿有參考價值的,至少知道實際上能跑多快。

相關標籤

GPU performancetoken generationinferencetensor parallelpipeline parallelLLM inference optimization