我用 Q8_0 量化跑出約 13 tps，內容視窗 128000，K 和 V 都是 Q8_0，用 3 張顯卡（1 張 2060 Super 8GB、2 張 5060 Ti 16GB），透過 llamacpp 執行。不確定這個速度是正常還是偏慢？有人可以分享一下你們的成績嗎？
OpenAI 將舉辦一場直播活動。在直播期間將揭露具體的公告、產品發布或示範內容。
上一次 OpenAI 突然搞直播，他們直接丟出 GPT-4 Turbo，然後一夜之間改掉所有定價
OpenAI 推出 ChatGPT 圖像 2.0，大幅提升了 AI 生成圖片的品質和功能。想看最新功能演示？OpenAI 正在直播發表會，趕快上 https://openai.com/live/ 看看吧。
OpenAI 把這個定位成直接對標現有圖像生成工具的競爭者，代表他們有信心能挑戰市場領導者
整個2025年，每當有人抱怨大型AI（LLM）的問題，標準回答就是「再等3到6個月，下一代版本會輕鬆搞定」。這套說詞到處都是——每個限制都說是暫時的，每個缺少的功能都說快要來了，每個自主代理（autonomous agent）的展示都被吹成即將成真的未來。 現在已經是2026年4月了，該檢驗一下這些承諾有沒有兌現。Reddit的ClaudeAI版上這週出現了一篇長討論串，討論Opus 4.7版本，結果一堆使用者都說這根本是退步。說真的，去年那套「再等等」的論調看起來有點尷尬。
有人真的在 AMD 新推出的 Strix Halo 晶片上測試了 Mistral Medium 3.5，結果呢？慢到不行。一個 48k 語言符號加上 4k 思考語言符號的提示詞，光是回答一個關於程式碼架構的問題就花了 2 小時。沒看錯，真的是兩小時。如果你想在 Strix Halo 上本地運行這個模型，最好在睡前就開始跑。雖然用了一堆優化技巧（Q5_K_XL 量化、GPU 加速、快取重用），但還是快不起來。本地 AI 的夢想看起來還要再等等，不過至少能動就是了。