
OpenAI 直播活動
OpenAI 將舉辦一場直播活動。在直播期間將揭露具體的公告、產品發布或示範內容。
上一次 OpenAI 突然搞直播,他們直接丟出 GPT-4 Turbo,然後一夜之間改掉所有定價

一位使用者分享了從雙 RTX 3090 和 8 張 MI50 GPU 升級到雙 ASUS GX10(DGX Spark)的經驗。最大的收穫:熱量和噪音大幅降低,效能卻沒有明顯下滑。每台 GX10 在推理時僅消耗約 100W 電力,對於需要長時間運作的應用來說實在太實用了。雖然首次回應時間(time to first token)比預期高,但他們成功地用開源工具(如 Hermes Agent)執行 MiniMax M2.7(AWQ 4 位元量化版本),完全沒有出錯。對於受夠 GPU 高耗電和噪音的人來說,這是個很有說服力的真實案例。