Available b8858 onwards. This is optimized CPU version so faster t/s now. (Just tested on my old weak laptop(16GB DDR3 RAM). Before : 0.3 t/s & After : 1.7 t/s. Obviously I didn't get expected boost as my laptop don't have AVX or AVX512 support. I'll be checking on my new laptop this week.) FYI Metal, Vulkan, CUDA versions also supporting this(1-bit versions .... Bonsai). Check those too if you haven't already. submitted by /u/pmttyji [link] [comments]
OpenAI 將舉辦一場直播活動。在直播期間將揭露具體的公告、產品發布或示範內容。
上一次 OpenAI 突然搞直播，他們直接丟出 GPT-4 Turbo，然後一夜之間改掉所有定價
OpenAI 推出 ChatGPT 圖像 2.0，大幅提升了 AI 生成圖片的品質和功能。想看最新功能演示？OpenAI 正在直播發表會，趕快上 https://openai.com/live/ 看看吧。
OpenAI 把這個定位成直接對標現有圖像生成工具的競爭者，代表他們有信心能挑戰市場領導者
整個2025年，每當有人抱怨大型AI（LLM）的問題，標準回答就是「再等3到6個月，下一代版本會輕鬆搞定」。這套說詞到處都是——每個限制都說是暫時的，每個缺少的功能都說快要來了，每個自主代理（autonomous agent）的展示都被吹成即將成真的未來。 現在已經是2026年4月了，該檢驗一下這些承諾有沒有兌現。Reddit的ClaudeAI版上這週出現了一篇長討論串，討論Opus 4.7版本，結果一堆使用者都說這根本是退步。說真的，去年那套「再等等」的論調看起來有點尷尬。
有人真的在 AMD 新推出的 Strix Halo 晶片上測試了 Mistral Medium 3.5，結果呢？慢到不行。一個 48k 語言符號加上 4k 思考語言符號的提示詞，光是回答一個關於程式碼架構的問題就花了 2 小時。沒看錯，真的是兩小時。如果你想在 Strix Halo 上本地運行這個模型，最好在睡前就開始跑。雖然用了一堆優化技巧（Q5_K_XL 量化、GPU 加速、快取重用），但還是快不起來。本地 AI 的夢想看起來還要再等等，不過至少能動就是了。