ファインチューニング
更新日:
用語解説
ファインチューニングは、事前学習済みモデルのパラメータ全部又は一部を、目的分野・タスクの追加データで更新し、用途へ適応させる学習工程です。
■ 試験で押さえるポイント
全パラメータを更新する方法、上位層だけを更新する方法、LoRA等で少数の追加パラメータだけを学ぶパラメータ効率的手法があります。
一般に事前学習より小さい学習率と目的に合うデータを使い、訓練・検証・テストを分離して過学習とデータ漏えいを防ぎます。
目的性能を高める一方、狭いデータへ合わせ過ぎると汎用能力を失う破滅的忘却や、元モデルの安全性を損なう場合があります。
プロンプトだけを工夫してパラメータを変えない利用とは異なります。検索で外部知識を与えるRAGとも学習の有無が異なります。
■ 選択肢での判断ポイント
事前学習済みパラメータを目的データで更新する処理です。転移学習の一手段であり、必ず全パラメータを更新するとは限りません。
例: 一般言語モデルを社内問合せ分類データで調整する際、検証損失が上がる前に早期終了し、機密データ混入と元能力の劣化も評価します。