AIバイアスとは
AIバイアスは、AIの出力に偏りが生じ、特定の性別・年齢・国籍・地域などの人に不利な判断や表現が混ざることです。原因の多くは、学習データに含まれる社会の偏りです。データの集め方や、評価の基準の決め方から生じることもあります。
生成AIでは、偏りは文章や画像の表現に現れます。たとえば職業の画像を頼むと特定の性別ばかり描かれる、職業の説明に固定観念が混ざる、といった形です。出力が自然な文章なので、偏りに気づきにくい点が厄介です。
採用・与信・人事評価など、人の機会に影響する用途では特に注意が要ります。総務省・経済産業省のAI事業者ガイドラインも「公平性」を共通の指針の一つに挙げています。AIだけに判断させず、適切な段階で人の判断を入れることを検討するよう求めています。
偏りを完全に無くすことは難しいのが実情です。用途を限る、属性ごとに結果を比べて確かめる、最終判断は人が行う、といった対策を組み合わせます。偏りが見つかったときに誰が判断し、どう直すかも、あらかじめ決めておきます。
具体例
求人票の文面を確かめる
人事部が生成AIで求人票の下書きを作ったところ、「若手が活躍する職場」「体力に自信のある方」といった表現が入りました。年齢や性別による制限と受け取られかねない言い回しです。公開前に、特定の属性を排除する表現が無いかを確かめる項目を、チェックリストに加えます。
属性を入れ替えて結果を比べる
応募書類の要約にAIを使う場合、氏名や性別の欄だけを変えた同じ書類を数件用意し、要約や評価が変わらないかを試します。差が出るなら、その使い方は見直します。導入前に一度試すだけでなく、使うモデルを変えたときにも同じ試験をします。結果は記録に残し、説明を求められたときに示せるようにします。