往下拉回到首頁
我終於受不了了,把 DGX Spark 的監控全部整合成一個儀表板

我終於受不了了,把 DGX Spark 的監控全部整合成一個儀表板

Built a real-time dashboard for the DGX Spark. Give it a try, I'd love the feedback

欸你知道嗎,在跑大型 AI 模型的時候有多煩?要同時開三個視窗看 nvidia-smi、htop 和 vLLM 的監控數據,根本是在玩雜耍。我乾脆自己寫了一個儀表板把這些全部整合在一起。 簡單來說就是,現在只要打開一個畫面,就能看到 GPU、CPU、記憶體、硬碟、網路的即時狀態,每秒更新一次。還有 vLLM 最重要的數據像是吞吐量、回應速度、等待時間、快取使用率這些,全部都在一個地方看。最狂的是它會自動找到你正在跑的 AI 引擎,如果你同時跑好幾個還會自動分頁。另外還能看 15 分鐘的歷史記錄,還會自動警告你 GPU 是不是過熱或被限制了。技術上是用 Rust 寫後端、React 寫前端,資料用 WebSocket 即時傳輸。說真的有點扯,一個儀表板就搞定了之前要開三個視窗的事。有興趣的話試試看,我很想聽聽你的想法!