下に引いて戻る
なぜオープンソースツールは llama.cpp を第一級の選択肢として扱わないのか?

なぜオープンソースツールは llama.cpp を第一級の選択肢として扱わないのか?

Why don't open source AI tools treat llama.cpp as a first-class option?

VS Code の Copilot 拡張機能やその他の「オープンソース」AI ツールを使ってみると、みんな Ollama をサポートしていて、時々 LM Studio もサポートしているのに、llama.cpp はほとんど相手にされていないことに気づくはずです。これが本当に腹立たしいのは、エンジニアリングの観点からすると、llama.cpp のサポートを追加するのは簡単すぎるほど簡単だからです。Ollama の横に並べるだけで済みます。あるいは、これらのツールが OpenAI API 互換のエンドポイントをサポートして、ユーザーがポート番号を入力できるようにすればいい。最も腹立たしいのは、Ollama が llama.cpp の仕事を基本的に借用したのに、すべての注目を集めてしまったことです。なぜこんな差別があるのか?