
OpenAI 直播活動
OpenAI 將舉辦一場直播活動。在直播期間將揭露具體的公告、產品發布或示範內容。
上一次 OpenAI 突然搞直播,他們直接丟出 GPT-4 Turbo,然後一夜之間改掉所有定價

組建完成!16 台 DGX Spark 已全部上線,網路流量跑滿。說實話,整個設置過程雖然耗時,但比預期順利得多。每台 Spark 開箱即用 Nvidia 客製化的 Ubuntu,大部分軟體和驅動都已預先安裝好。設置步驟包括機架安裝、開機、統一建立使用者帳號密碼、等待每台機器約 20 分鐘的系統更新,然後設定無密碼 SSH、巨型幀(jumbo frames)、IP 位址等等——我寫了腳本來加快這些流程。每台 Spark 都連接到 FS N8510 交換機。
科技博主觀點
有人剛剛隨便組了一個 16-GPU 叢集,就像周末小專案一樣。未來已經來了,而且超燒錢。
有個 builder 剛組完 16 台 DGX Spark——那大概是 240 萬美金的 AI 硬體——然後他講起來就像在組 IKEA 家具一樣輕鬆。每台 Spark 基本上就是一台超級電腦,內建 Nvidia 客製化 Ubuntu,預裝了訓練大型模型需要的所有東西。整個設置流程?上架、開機、寫網路腳本,然後——砰——你就有了一個能處理會讓你筆電哭出來的 AI 工作量的叢集。讓我最驚訝的是這聽起來有多隨便。每台節點 20 分鐘更新、一些 SSH 設定、網路用巨型幀——突然間你就在運行大多數公司只能夢想的基礎設施。這不是什麼科技巨頭的資料中心。這是某個人的組裝日誌。
AI 分析
AI 基礎設施
high現在就開始編列多節點設置的預算——單 GPU 訓練已經變成基本配備了
有人剛剛隨便部署了 16 台企業級 AI 工作站,就像在組裝家用實驗室一樣
你現在遇到的訓練瓶頸,跟即將來臨的東西比起來根本小巫見大巫
職位影響分析
機器學習工程師
角色轉型多節點叢集正在變成標準基礎設施,不再是奢侈品
現在就學分散式訓練框架——你那套單 GPU 的經驗已經不夠看了
DevOps 工程師
機會隨著公司擴展 ML 運營,AI 基礎設施部署正在成為核心技能
親手操作 GPU 叢集管理——這才是基礎設施工作的未來方向