アラインメントとは

アラインメントは、モデルの出力を人間の意図・価値観・安全上の要請に沿わせる取り組みの総称です。「役に立ち、無害で、誠実である」ことが目標として挙げられます。

具体的な手段として、指示チューニングや RLHF が使われます。アラインメントは完全ではなく、意図しない出力が残ることを前提に、利用側でも検証と制限を設けます。