아래로 당겨서 돌아가기
왜 오픈소스 도구들은 llama.cpp를 제대로 지원하지 않을까?

왜 오픈소스 도구들은 llama.cpp를 제대로 지원하지 않을까?

Why don't open source AI tools treat llama.cpp as a first-class option?

VS Code의 Copilot 확장 프로그램이든 다른 '오픈소스' AI 도구든, 대부분 Ollama를 지원하고 가끔 LM Studio도 지원하는데 llama.cpp는 거의 무시당하고 있습니다. 정말 답답한 이유는 기술적으로 봤을 때 llama.cpp 지원을 추가하는 건 정말 간단하기 때문입니다. Ollama 옆에 나열하기만 하면 되거든요. 아니면 이 도구들이 OpenAI API 호환 엔드포인트를 지원하고 사용자가 포트 번호를 입력하게 하면 됩니다. 가장 화나는 건 Ollama가 기본적으로 llama.cpp의 작업을 가져다 썼으면서 모든 주목을 받고 있다는 겁니다. 왜 이런 차별이 있는 걸까요?