
OpenAI 要開直播了,會不會又推出什麼新東西?
欸你知道嗎,OpenAI 最近要辦一場直播活動。雖然現在還不知道會講什麼,但根據他們過去的習慣,通常直播就代表有新東西要發表。可能是 ChatGPT 的新功能、新模型,或者什麼其他猛的東西。反正 OpenAI 的直播從來不會無聊,有興趣的話可以追蹤一下,說不定又會有什麼改變遊戲規則的公告。
The last time OpenAI did an unannounced livestream, they dropped GPT-4 Turbo and changed pricing overnight


白話點評
有人剛剛超隨便地組了16個GPU叢集,就像周末DIY一樣。未來已經來了,而且超貴。
有個人剛裝好16台DGX Spark——那大概是240萬美金的AI硬體——結果他講起來就像在組IKEA家具一樣輕鬆。每台Spark基本上就是一台超級電腦,裡面預裝了Nvidia客製化的Ubuntu和所有訓練大型模型需要的東西。設置流程呢?架上去、開機、設定網路、跑個腳本——砰,你就有了一個能處理會讓你筆電哭出來的AI工作量的叢集。讓我最傻眼的是這聽起來有多隨便。每台機器更新20分鐘、一些SSH設定、網路用巨型幀——突然間你就在跑大多數公司只能夢想的基礎設施。這不是什麼科技巨頭的資料中心,這是某個人的組裝日誌。
AI 怎麼看
AI基礎設施
high現在就開始編列多節點設置的預算吧——單GPU訓練已經變成基本配備了,再不準備就落伍
有人剛剛超隨便地部署了16台企業級AI工作站,就像在家裡組裝實驗室一樣
你現在遇到的訓練瓶頸,跟接下來要面對的比起來根本小巫見大巫
這跟你的工作有關嗎
機器學習工程師
整個會變不一樣多節點叢集已經變成標準基礎設施,不再是奢侈品了
趕快學分散式訓練框架——你那套單GPU的經驗已經不夠看了
DevOps工程師
好消息隨著公司AI規模擴大,基礎設施部署變成核心技能
親手操作GPU叢集管理吧——這就是基礎設施工作的未來方向