往下拉回到首頁
Show HN: GoModel – 用 Go 打造的開源 AI 網關,比 LiteLLM 輕 44 倍

Show HN: GoModel – 用 Go 打造的開源 AI 網關,比 LiteLLM 輕 44 倍

Show HN: GoModel – an open-source AI gateway in Go; 44x lighter than LiteLLM

嗨,我是 Jakub,華沙的獨立創辦人。我從去年 12 月開始和幾位貢獻者一起開發 GoModel,這是一個開源 AI 網關,介於你的應用程式和 OpenAI、Anthropic 等模型提供商之間。我為自己的新創公司打造它來解決幾個問題:追蹤每個客戶或團隊的 AI 使用量和成本、無需修改應用程式碼就能切換模型、更輕鬆地除錯請求流程,以及透過精確快取和語義快取來降低 AI 支出。