https://www.reddit.com/r/LocalLLaMA/comments/1eb6to7/llama_405b_q4_k_m_quantization_running_locally/ https://www.reddit.com/r/LocalLLaMA/comments/1ebbgkr/llama_31_405b_q5_k_m_running_on_amd_epyc_9374f/ Llama405b q4 at 1.2tk/sec 2 years ago was something to be excited about. That same hardware will now run HUGE state of the art models (kimik2.6, deepseekv4flash, minimax2.7, step3.5flash, qwen3.5-397b) at 30tk-100tk/sec while crushing llama405b. :-/ I recall folks asking why anyone would want
OpenAI 將舉辦一場直播活動。在直播期間將揭露具體的公告、產品發布或示範內容。
上一次 OpenAI 突然搞直播，他們直接丟出 GPT-4 Turbo，然後一夜之間改掉所有定價
OpenAI 推出 ChatGPT 圖像 2.0，大幅提升了 AI 生成圖片的品質和功能。想看最新功能演示？OpenAI 正在直播發表會，趕快上 https://openai.com/live/ 看看吧。
OpenAI 把這個定位成直接對標現有圖像生成工具的競爭者，代表他們有信心能挑戰市場領導者
整個2025年，每當有人抱怨大型AI（LLM）的問題，標準回答就是「再等3到6個月，下一代版本會輕鬆搞定」。這套說詞到處都是——每個限制都說是暫時的，每個缺少的功能都說快要來了，每個自主代理（autonomous agent）的展示都被吹成即將成真的未來。 現在已經是2026年4月了，該檢驗一下這些承諾有沒有兌現。Reddit的ClaudeAI版上這週出現了一篇長討論串，討論Opus 4.7版本，結果一堆使用者都說這根本是退步。說真的，去年那套「再等等」的論調看起來有點尷尬。
有人真的在 AMD 新推出的 Strix Halo 晶片上測試了 Mistral Medium 3.5，結果呢？慢到不行。一個 48k 語言符號加上 4k 思考語言符號的提示詞，光是回答一個關於程式碼架構的問題就花了 2 小時。沒看錯，真的是兩小時。如果你想在 Strix Halo 上本地運行這個模型，最好在睡前就開始跑。雖然用了一堆優化技巧（Q5_K_XL 量化、GPU 加速、快取重用），但還是快不起來。本地 AI 的夢想看起來還要再等等，不過至少能動就是了。