아래로 당겨서 돌아가기
Show HN: GoModel – LiteLLM보다 44배 가벼운 오픈소스 AI 게이트웨이

Show HN: GoModel – LiteLLM보다 44배 가벼운 오픈소스 AI 게이트웨이

Show HN: GoModel – an open-source AI gateway in Go; 44x lighter than LiteLLM

안녕하세요, 저는 바르샤바를 기반으로 하는 독립 창업자 Jakub입니다. 12월부터 몇 명의 기여자들과 함께 GoModel을 개발하고 있습니다. 이것은 당신의 앱과 OpenAI, Anthropic 같은 모델 제공자 사이에 위치하는 오픈소스 AI 게이트웨이입니다. 제 스타트업을 위해 몇 가지 문제를 해결하기 위해 만들었습니다: 클라이언트나 팀별 AI 사용량과 비용 추적, 앱 코드 변경 없이 모델 전환, 요청 흐름 디버깅 간소화, 정확한 캐싱과 의미론적 캐싱으로 AI 지출 감소.