下に引いて戻る
AIタスクを最適なモデルに自動振り分けるルーターを作った——9,200タスクで実質$0.14、$21節約

AIタスクを最適なモデルに自動振り分けるルーターを作った——9,200タスクで実質$0.14、$21節約

I built a router that automatically sends your AI tasks to the most appropriate model to handle them at low cost - 9,200 tasks in, $21 saved at $0.14 actual cost

気づいたこと:人々が毎日AIでやっていることの大半——要約、下書き、分類、データ抽出など——は実は最先端モデルなんて必要ない。8~70Bの普通のモデルで十分対応できる。なのに皆、習慣でClaudeやChatGPTに全部投げてる。 そこで Followloop(followloop.app)を作った。タスクの複雑さを自動判定して、最適なモデルに振り分ける: - シンプルなタスク → Cerebras Llama(毎秒2000トークン、1日100万トークン無料)、Groq、Gemini Flash