欸你知道嗎，以前要在網路上快速查資料，大家都得靠 ChatGPT 或其他付費的雲端 AI。但現在不一樣了——有人成功把超強的 AI 模型裝在自己電腦裡，而且速度快到不行。 簡單來說就是，這傢伙用一張高級顯卡（RTX 4090）跑一個叫 Qwen 的 AI 模型，不只能自己思考，還能直接上網搜尋資料。最扯的是速度根本不輸雲端服務，甚至還更快。這代表什麼？代表你以後可能真的不用每個月花錢訂閱 ChatGPT Plus 了，自己電腦就搞定。 當然啦，前提是你要有夠好的顯卡，但對於認真做研究或工作的人來說，這根本是省錢神器。這傢伙還把整個設置放在 Github 上，有興趣的人可以自己試試看。
有人把微軟開發的 TRELLIS.2（一個把照片變成 3D 模型的 AI）改造成可以在 Mac 上跑。原本這個模型只能在 NVIDIA 的 GPU 上用，因為它用了五個特殊的 CUDA 工具（flex_gemm、flash_attn、o_voxel、cumesh、nvdiffrast），Mac 根本沒有。這個人超猛，直接自己寫了五個替代品出來，用純 Python 和 PyTorch 重新實現所有功能。簡單來說就是，現在你用 MacBook Pro 就能跑這個 AI，不用花大錢買 NVIDIA 顯卡了。對於用 Mac 的設計師或 3D 工作者來說，這根本是救星啊。
有人把微軟最新的 TRELLIS.2 AI 模型（用來把照片變成 3D 物體的）改造成可以在 Mac 上跑。原本這個模型只能在 Windows 或 Linux 上用，因為它需要特殊的 NVIDIA 顯卡技術。這個人就把那些 NVIDIA 才有的功能用普通的 Python 程式碼重新寫了一遍，讓 Mac 的 M 系列晶片也能用。簡單來說就是，你現在不用特地買台 Windows 電腦或租雲端服務，直接用你的 MacBook 就能玩這個酷炫的 AI 功能了。如果你有在做 3D 設計或 AI 相關的工作，這個改造可能會省你不少錢。
有個人買了 M5 Pro 電腦，裝了 24GB 記憶體，想用 Ollama 跑 Qwen 3.6 這個 AI 模型。他在想要不要用 Q4 版本（就是把模型壓縮到 4 位元，檔案比較小），但又找不到好用的 Q3 版本（更小的壓縮版）。簡單來說就是在找一個平衡點——既不要電腦跑到爆炸，AI 回答的品質也不要差太多。如果你也有類似的配置，這篇討論應該能幫你省不少時間。