下に引いて戻る
Show HN: GoModel – LiteLLMより44倍軽いオープンソースAIゲートウェイ

Show HN: GoModel – LiteLLMより44倍軽いオープンソースAIゲートウェイ

Show HN: GoModel – an open-source AI gateway in Go; 44x lighter than LiteLLM

こんにちは、ワルシャワを拠点とする独立起業家のJakubです。12月からGoModelを数人の貢献者と一緒に開発しています。これはOpenAIやAnthropicなどのモデルプロバイダーとアプリの間に位置するオープンソースのAIゲートウェイです。スタートアップのために、いくつかの問題を解決するために構築しました:クライアントやチームごとのAI使用量とコストの追跡、アプリコードを変更せずにモデルを切り替え、リクエストフローのデバッグを簡単にし、正確なキャッシングとセマンティックキャッシングでAI支出を削減します。