往下拉回到首頁
GoModel 爆紅:用 Go 寫的 AI 中介站,竟然比 LiteLLM 輕 44 倍,省錢又好用

GoModel 爆紅:用 Go 寫的 AI 中介站,竟然比 LiteLLM 輕 44 倍,省錢又好用

Show HN: GoModel – an open-source AI gateway in Go; 44x lighter than LiteLLM

欸你知道嗎,有個波蘭獨立工程師 Jakub 從去年 12 月開始做一個超狂的東西叫 GoModel。簡單來說就是,它是一個開源的 AI 中介站(gateway),夾在你的應用程式和 ChatGPT、Claude 這些 AI 服務之間。 為什麼要用它?說真的有點扯,它可以幫你: - 清楚看到每個客戶或團隊花了多少錢在 AI 上 - 想換 AI 模型時不用改程式碼,直接切換 - 更容易追蹤 AI 請求的過程,找問題超方便 - 用聰明的快取技術(exact 和 semantic caching)直接省 AI 費用 最狂的是,它比同類產品 LiteLLM 輕 44 倍,代表跑起來超快、佔用資源超少。如果你公司有在用 AI 服務,這個東西根本是省錢神器。