PEFT / LoRAとは

PEFT（Parameter-Efficient Fine-Tuning）は、モデル全体を学習し直す代わりに、少ないデータと計算資源で調整を行う手法の総称です。中小規模の環境でも導入しやすく、性能向上は全体の学習に比べると限定的な場合があります。

LoRA（Low-Rank Adaptation）はその代表で、重みを低ランクの行列に分解して効率よく調整します。計算コストと必要なデータ量を大きく減らせるため、最初のファインチューニングはここから試すのが現実的です。