往下拉回到首頁
你的 RTX 5090 可能只發揮了 40% 的威力,cuBLAS 有大漏洞

你的 RTX 5090 可能只發揮了 40% 的威力,cuBLAS 有大漏洞

60% MatMul Performance Bug in cuBLAS on RTX 5090

欸你知道嗎,如果你在用 NVIDIA 的 cuBLAS 來跑 AI 運算,特別是那種大量平行計算的工作,你的 RTX 5090 可能根本沒在認真工作。有人發現 cuBLAS 在處理批次矩陣運算(就是一次算很多個矩陣啦)的時候,會用一個超沒效率的方法,導致你的 GPU 只能發揮 40% 的能力,浪費了 60% 的運算能力。 簡單來說就是,NVIDIA 自己的軟體有 bug,導致你花大錢買的高級顯卡被綁手綁腳。這個人用最新版本的 CUDA 和驅動程式測試過,甚至自己寫了一個更聰明的方法,證明 cuBLAS 真的在浪費你的錢。如果你在做深度學習或科學運算,這個消息可能會讓你想重新檢查一下自己的程式。

相關標籤

performance bugMatMulbatched operationsFP32GPU optimizationkernel efficiencycompute utilization