PEFT / LoRAとは

PEFT（Parameter-Efficient Fine-Tuning）は、モデルの重み（パラメータ）の大部分を固定したまま、ごく一部や追加した小さな部分だけを学習するファインチューニングの手法の総称です。全体を学習し直すより、必要な計算資源とメモリを大きく減らせます。

代表的な手法が LoRA（Low-Rank Adaptation）です。元の重みはそのままにして、重みの変化分を小さな行列の組み合わせで表し、その部分だけを学習します。学習した結果は元のモデルと比べてとても小さいため、保存や配布がしやすくなります。

実務での利点は、用途ごとに追加部分を作り分けられる点です。同じ元のモデルに、問い合わせ対応用、要約用といった複数の追加部分を用意して切り替えられます。オープンウェイトモデルを自社環境で調整するときによく使われます。

一方で、学習データの質と量が結果を左右する点は、通常のファインチューニングと同じです。全体を学習し直す方法に比べて、性能の伸びが限られる場合もあります。まずはプロンプトの工夫や RAG で足りるかを確かめ、それでも足りないときの選択肢として検討します。

具体例

部署ごとに口調をそろえる

カスタマーサポート部門と法務部門で、回答の口調や書式の決まりが大きく違うケースです。1つの元のモデルに、部門ごとの回答例で学習した LoRA の追加部分を2つ用意しました。呼び出すときに部門に応じて追加部分を切り替えるため、モデルを2つ丸ごと持つ必要がありません。

小さく試してから広げる

定型の報告書を決まった構成で書かせたいとき、まず過去の報告書から数百件の「指示と完成文」の組を作り、LoRA で学習させました。学習にかかる時間と費用が小さいため、データの作り方を変えて何度か試せます。結果を人が評価し、効果が確かめられてから本番の運用に移します。