你有沒有發現 AI 模型用的資料越多，跑得越慢？Vectro 是一個新的壓縮工具，可以把 AI 內部用的數字表示法（叫做「嵌入向量」embedding）縮小，但不會讓它變傻。簡單來說就像壓縮照片一樣：檔案可以小十倍，但如果方法對了，看起來還是差不多。問題是，大多數壓縮方法會犧牲準確度。Vectro 說它不會。如果你在做需要搜尋海量資料的機器學習系統，或是要在手機上跑模型，這個工具可以幫你省掉一堆運算成本，速度也會明顯快起來。說真的有點扯，值得試試看。
我將微軟的 TRELLIS.2 移植到 Apple Silicon 上，透過 PyTorch MPS 運行。原始版本依賴五個僅限 CUDA 的編譯擴展（flex_gemm、flash_attn、o_voxel、cumesh、nvdiffrast），在 Mac 上沒有對應版本。我從零開始編寫了替代後端：純 PyTorch 稀疏 3D 卷積（替代 flex_gemm）、使用空間雜湊的 Python 網格提取（替代 o_voxel 中的 CUDA 雜湊映射操作）、用於稀疏 Transformer 的 SDPA 注意力機制（替代 flash_attn），以及 GPU 加速的三線性插值（替代 cumesh 和 nvdiffrast）。
我將微軟的 TRELLIS.2（40 億參數的圖像轉 3D 模型）移植到 Apple Silicon 上，透過 PyTorch MPS 執行。原始版本需要 CUDA 搭配 flash_attn、nvdiffrast 和自訂稀疏卷積核心——這些在 Mac 上都無法運作。我用純 PyTorch 替代方案取代了 CUDA 特定操作：包括 gather-scatter 稀疏 3D 卷積、用於稀疏 Transformer 的 SDPA 注意力機制，以及以 Python 實現的網格提取（取代 CUDA 雜湊表操作）。總共在 9 個檔案中修改了數百行程式碼。
有位使用者在 M5 Pro 機器上配置了 24GB 記憶體，想用 Ollama 執行 Qwen 3.6 大型語言模型（LLM），但不確定該選擇 Q4 量化版本（4 位元量化）。他們找不到合適的 Q3 量化解決方案，希望能獲得建議，找到在他們的硬體配置上既能順利運行，又不會過度犧牲模型品質的版本。