往下拉回到首頁
Mac 用戶必看!Ollama 更新後,在自己電腦跑 AI 模型快到爆炸

Mac 用戶必看!Ollama 更新後,在自己電腦跑 AI 模型快到爆炸

Running local models on Macs gets faster with Ollama's MLX support

欸你知道嗎,如果你有 Mac(特別是 M1、M2、M3 那種新款的),現在想在自己電腦裡面跑 AI 聊天機器人或其他模型,速度快到不行。Ollama 這個軟體最近支援了 MLX 框架,簡單來說就是終於把 Mac 晶片的優勢發揮出來了。以前在 Mac 上跑本地 AI 有點卡卡的,現在直接起飛。這對誰有幫助呢?就是那些不想把自己的資料傳到雲端、想在自己電腦上私密地玩 AI 的人。說真的,這個更新對 Mac 用戶來說根本是大禮物,終於不用羨慕 Windows 用戶了。

相關標籤

local modelsMac performanceunified memoryApple SiliconLLM inference