往下拉回到首頁
欸你知道嗎?用遊戲電腦配外接顯卡就能跑 AI,速度快到真的能用

欸你知道嗎?用遊戲電腦配外接顯卡就能跑 AI,速度快到真的能用

Gaming Mini PC + eGPU Finally Hits Usable Speed: 25.9 tokens/sec with Radeon 9060 XT

如果你有在用 ChatGPT,應該知道每個月都要付錢,對吧?我最近發現一個有趣的事——其實用一台遊戲迷你電腦(AMD 7840HS、32GB 記憶體)加上一個外接顯卡(Radeon 9060XT、16GB),就能在自己電腦上跑超強的 AI 模型,完全不用付錢給 OpenAI。 說真的一開始有點卡,因為 llama.cpp 這個工具不太好上手,但後來我試了一個新的模型叫 Gemma4 24B,速度一下子衝到 25.9 tokens/秒——這就像是 AI 一秒鐘能打出 26 個字,快到真的可以用。我甚至把它接到我的程式編輯器,問它我自己寫的程式碼的問題,它竟然答得出來。 這也太猛了吧,以前我以為要跑本地 AI 得花好幾千塊買超級電腦,結果用遊戲電腦就行。如果你也想試試看,這個設定值得參考。