Mistral Medium 3.5 128B with 4x3080 20GB with layer split: CUDA_VISIBLE_DEVICES=0,1,2,3 ./build/bin/llama-bench --model /data/huggingface/Mistral-Medium-3.5-GGUF/Mistral-Medium-3.5-128B-IQ4_XS-00001-of-00003. gguf -ngl 99 -d 0,16384 -fa 1 --split-mode layer ggml_cuda_init: found 4 CUDA devices (Total VRAM: 80211 MiB): Device 0: NVIDIA GeForce RTX 3080, compute capability 8.6, VMM: yes, VRAM: 20052 MiB Device 1: NVIDIA GeForce RTX 3080, compute capability 8.6, VMM: yes, VRAM: 20052 MiB Device 2:
OpenAI 將舉辦一場直播活動。在直播期間將揭露具體的公告、產品發布或示範內容。
上一次 OpenAI 突然搞直播，他們直接丟出 GPT-4 Turbo，然後一夜之間改掉所有定價
OpenAI 推出 ChatGPT 圖像 2.0，大幅提升了 AI 生成圖片的品質和功能。想看最新功能演示？OpenAI 正在直播發表會，趕快上 https://openai.com/live/ 看看吧。
OpenAI 把這個定位成直接對標現有圖像生成工具的競爭者，代表他們有信心能挑戰市場領導者
整個2025年，每當有人抱怨大型AI（LLM）的問題，標準回答就是「再等3到6個月，下一代版本會輕鬆搞定」。這套說詞到處都是——每個限制都說是暫時的，每個缺少的功能都說快要來了，每個自主代理（autonomous agent）的展示都被吹成即將成真的未來。 現在已經是2026年4月了，該檢驗一下這些承諾有沒有兌現。Reddit的ClaudeAI版上這週出現了一篇長討論串，討論Opus 4.7版本，結果一堆使用者都說這根本是退步。說真的，去年那套「再等等」的論調看起來有點尷尬。
有人真的在 AMD 新推出的 Strix Halo 晶片上測試了 Mistral Medium 3.5，結果呢？慢到不行。一個 48k 語言符號加上 4k 思考語言符號的提示詞，光是回答一個關於程式碼架構的問題就花了 2 小時。沒看錯，真的是兩小時。如果你想在 Strix Halo 上本地運行這個模型，最好在睡前就開始跑。雖然用了一堆優化技巧（Q5_K_XL 量化、GPU 加速、快取重用），但還是快不起來。本地 AI 的夢想看起來還要再等等，不過至少能動就是了。