12レッスン中のレッスン 7

コストと時間の見積もり

開始前、ParamsブロックのEstimateボタンが、あなたのモデルとデータセットに対して実際の計算を行います:

  • 収まる / 収まらない:モデル+LoRAがメモリに収まるか(QLoRAで範囲が広がります)。
  • 時間とコスト:実際に処理されるトークン数、基準スループット、モデルロード時間から算出。
見積もりモーダル
ヒント:未知のモデルは7Bと仮定され、その旨が表の下に記載されます。正確な数字にはorg/nameを正確に入力してください。
コース目次 · 12レッスン中のレッスン 7
TheTensorTune workbench