下に引いて戻る
ゲーミングミニPC+外部GPU で実用速度達成:Radeon 9060 XT で 25.9 t/s を実現

ゲーミングミニPC+外部GPU で実用速度達成:Radeon 9060 XT で 25.9 t/s を実現

Gaming Mini PC + eGPU Finally Hits Usable Speed: 25.9 tokens/sec with Radeon 9060 XT

OpenAI に毎月お金を払わずにローカルで強力な AI モデルを動かしたい?私も同じことを試してみました。ゲーミングミニPC(AMD 7840HS、32GB RAM)に外部 GPU(Radeon 9060XT、16GB VRAM)を接続して大規模言語モデル(LLM)を実行しています。正直なところ、llama.cpp は最初は使いづらくて、結果も満足できませんでしたが、新しい Gemma4 24B A4B IQ4 NL モデルを試したら 25.9 tokens/秒に到達しました。この速度なら実用的です。OpenCode に接続して自分のコードベースについて質問してみたら、実際に使えるレベルでした。ローカル AI に興味があるけど、3000 ドルの高級な設定が必要だと思っていた人は、これを見直すかもしれません。