下に引いて戻る
2bか非2bか?カスタムLLMスケジューリング競技会

2bか非2bか?カスタムLLMスケジューリング競技会

2b or not 2b? Custom LLM Scheduling Competition

皆さんへ、リソース管理とLLM応答のトークンコスト削減に焦点を当てたKaggle競技会を立ち上げました。基本的なチャレンジはシンプルですが興味深いものです。MMULベンチマークから出された質問に対して、答えるのではなく、小型の2Bモデルを使うべきか、それとも大型モデルを使うべきかを判断するというものです。目標は精度とコスト効率のバランスを見つけることです。時間とともにさらに多くのモデルを追加し、意思決定をより複雑にする予定です。AIの推論コストの最適化や、異なるモデルサイズが実際のベンチマークでどのように機能するかを探索することに興味がある場合は、ぜひ参加してください:https://www.kaggle.com/competitions/llm-scheduling-competition