メインコンテンツへスキップ

イントロダクション

Microsoft Azure 上での GPT-3.5 または GPT-4 モデルのファインチューニングにおいて、W&B を使用することで、メトリクスの自動キャプチャや、W&B の 実験管理 および評価ツールを通じた体系的な評価が可能になり、モデルパフォーマンスの追跡、分析、改善を行うことができます。
Azure OpenAI fine-tuning metrics

事前準備

  • Azure 公式ドキュメント に従って、Azure OpenAI サービスをセットアップしてください。
  • APIキー を使用して W&B アカウントを 設定 してください。

ワークフローの概要

1. ファインチューニングのセットアップ

  • Azure OpenAI の要件に従って トレーニングデータ を準備します。
  • Azure OpenAI でファインチューニングジョブを 設定 します。
  • W&B はファインチューニングの プロセス を自動的に追跡し、メトリクスと ハイパーパラメーター を ログ に記録します。

2. 実験管理

ファインチューニング中、W&B は以下の情報をキャプチャします:
  • トレーニングおよび検証メトリクス
  • モデルの ハイパーパラメーター
  • リソース使用率
  • トレーニングの Artifacts

3. モデルの評価

ファインチューニング後、W&B Weave を使用して以下のことが行えます:
  • 参照 データセット に対するモデル出力の評価
  • 異なるファインチューニングの Runs 間でのパフォーマンス比較
  • 特定のテストケースにおけるモデルの 振る舞い の分析
  • モデル選定のためのデータに基づいた意思決定

実例

追加リソース