下に引いて戻る
初めてのファインチューニング、判断に迷ってます — 3Bか7Bどっちで多タスク推論?[D]

初めてのファインチューニング、判断に迷ってます — 3Bか7Bどっちで多タスク推論?[D]

First time fine-tuning, need a sanity check — 3B or 7B for multi-task reasoning? [D]

こんにちは、ここに初めて投稿します。ずっとROMってました。これから初めてのファインチューニングプロジェクトを始めようとしているんですが、間違った方向に進みたくないので質問させてもらいます。 自分の背景:ML出身ではなく、独学です。この1年くらいAPIを通じてLLMを使ってきました。でもプロンプトエンジニアリングだけじゃ足りなくなってきたので、本格的にファインチューニングが必要になってきました。 やりたいことはこんな感じです。モデルに3つの関連したタスクを学ばせたいんです: まず