Just got myself (for my company) a RTX Pro 6000 Blackwell Workstation card. Managed to get really good TPS on qwen3 27b fp8. Using it for many agents that specialize on one specific task at a time. Trying to get the best possible Speed + Concurrency running on vllm 0.20.1 nightly cuda 13.1. Engine 000: Avg prompt throughput: 763.5 tokens/s, Avg generation throughput: 1320.2 tokens/s, Running: 28 reqs, Waiting: 0 reqs, GPU KV cache usage: 50.4%, Prefix cache hit rate: 1.3%, MM cache hit rate: 0.
OpenAI 將舉辦一場直播活動。在直播期間將揭露具體的公告、產品發布或示範內容。
上一次 OpenAI 突然搞直播，他們直接丟出 GPT-4 Turbo，然後一夜之間改掉所有定價
OpenAI 推出 ChatGPT 圖像 2.0，大幅提升了 AI 生成圖片的品質和功能。想看最新功能演示？OpenAI 正在直播發表會，趕快上 https://openai.com/live/ 看看吧。
OpenAI 把這個定位成直接對標現有圖像生成工具的競爭者，代表他們有信心能挑戰市場領導者
整個2025年，每當有人抱怨大型AI（LLM）的問題，標準回答就是「再等3到6個月，下一代版本會輕鬆搞定」。這套說詞到處都是——每個限制都說是暫時的，每個缺少的功能都說快要來了，每個自主代理（autonomous agent）的展示都被吹成即將成真的未來。 現在已經是2026年4月了，該檢驗一下這些承諾有沒有兌現。Reddit的ClaudeAI版上這週出現了一篇長討論串，討論Opus 4.7版本，結果一堆使用者都說這根本是退步。說真的，去年那套「再等等」的論調看起來有點尷尬。
有人真的在 AMD 新推出的 Strix Halo 晶片上測試了 Mistral Medium 3.5，結果呢？慢到不行。一個 48k 語言符號加上 4k 思考語言符號的提示詞，光是回答一個關於程式碼架構的問題就花了 2 小時。沒看錯，真的是兩小時。如果你想在 Strix Halo 上本地運行這個模型，最好在睡前就開始跑。雖然用了一堆優化技巧（Q5_K_XL 量化、GPU 加速、快取重用），但還是快不起來。本地 AI 的夢想看起來還要再等等，不過至少能動就是了。