下に引いて戻る
なぜスマートフォンをサーバーにしてローカルで大規模言語モデルを動かすアプリがないのか?

なぜスマートフォンをサーバーにしてローカルで大規模言語モデルを動かすアプリがないのか?

Why aren't apps letting your phone run AI locally instead of sending everything to the cloud?

飛行機の中でGemmaをオフラインで動かして勉強の手助けにしていたら、ふと思ったんです。ほとんどのスマートフォンはGemmaの2Bモデルを動かせるし(多くは4Bも対応)、オープンソースモデルはどんどん安くて賢くなってるし、チップのAI最適化も毎月進化してる。Gemma 4Bはかつての最強モデルGPT-4oと同等レベルです。本来なら未来はこうなるはず:スマートフォンがサーバーになって、すべての処理がローカルで完結して、データをクラウドに送らずに即座に答えが返ってくる。でも今、何がそれを邪魔してるんでしょう?