往下拉回到首頁
為什麼手機 AI 應用還不讓你的裝置當伺服器跑本地大型語言模型?

為什麼手機 AI 應用還不讓你的裝置當伺服器跑本地大型語言模型?

Why aren't apps letting your phone run AI locally instead of sending everything to the cloud?

想像一下:你在飛機上用 Gemma 在手機離線跑 AI 來幫助讀書,然後你想到一個問題——為什麼這不是標配呢?大多數手機現在就能跑 Gemma 的 2B 模型(很多還能跑 4B),開源模型越來越便宜又越來越聰明,晶片對 AI 的優化也月月進步。Gemma 4B 的能力幾乎等於當年稱霸的 GPT-4o。未來應該就是這樣:你的手機變成伺服器,所有運算都在本地完成,答案秒出,資料也不用上傳到雲端。那現在到底是什麼卡住我們呢?