下に引いて戻る
DGX Spark の監視を一つのダッシュボードに統合してみた

DGX Spark の監視を一つのダッシュボードに統合してみた

Built a real-time dashboard for the DGX Spark. Give it a try, I'd love the feedback

nvidia-smi、htop、vLLM のメトリクスエンドポイントを3つのターミナルで同時に監視するのに疲れたので、すべてを一つのダッシュボードにまとめました。 1秒ごとの更新でGPU、CPU、統一メモリ、ディスク、ネットワークをリアルタイム監視。vLLMの重要な統計情報(トークン/秒、初回応答時間、キューイング時間、KVキャッシュ使用率、プリフィックスキャッシュヒット率)も一目で確認できます。プロセススキャンとDocker経由で実行中のエンジンを自動検出し、複数エンジン実行時はタブで切り替え可能。15分間のローリング履歴と、サーマルスロットリング・パワーブレーキの検出機能も搭載。Rustバックエンド、Reactフロントエンド、WebSocketでストリーミング配信しています。ぜひ試してみて、フィードバックをお聞かせください!