
OpenAI 直播活動
OpenAI 將舉辦一場直播活動。在直播期間將揭露具體的公告、產品發布或示範內容。
上一次 OpenAI 突然搞直播,他們直接丟出 GPT-4 Turbo,然後一夜之間改掉所有定價

有人做了個實驗,想測試推測解碼(一種讓 AI 跑得更快的技術)在新版 Qwen 上到底有沒有用,結果是:超級有用。他們比較了不同設定下的語言生成速度,發現速度提升幅度大到不行——回應變快了,品質卻沒有縮水。從實驗數據來看,語言生成速度(token/s)有明顯的改善,證明這個優化技術不只是紙上談兵。如果你有在用本地 AI 模型,而且在乎速度,這個發現值得你花時間了解一下。