5-1. 倫理的配慮
AI は学習データの偏りをそのまま出力に反映します。採用や与信など人の評価に関わる用途では、特定の属性に不利な判断が混ざっていないかを検証する必要があります。プライバシーでは、入力した情報がサービス側で学習に使われるかどうかを確認し、扱ってよい情報の範囲を決めます。
透明性とは「AI が関与したこと」「どの根拠で出力したか」を相手に示せる状態です。対外文書に AI を使う場合は、社内の表示ルールを決めておきます。
- バイアスは検証しないと見えない
- 入力データが学習に使われる設定かを確認する
- AI 関与の表示ルールを決める
5-2. リスク管理
ハルシネーション対策は「根拠を示させる」「検索や文書（RAG）で裏付ける」「人が確認する工程を残す」の三段構えです。重要度の高い出力ほど確認の比重を上げます。
セキュリティでは、プロンプトインジェクション（外部の文章に仕込まれた指示でAIの挙動を乗っ取る攻撃）や、機密情報の漏えいが主なリスクです。外部から取り込む文章は「データであって指示ではない」と扱い、権限の分離と出力の検査を組み合わせます。
- 根拠提示・裏付け・人の確認の三段構え
- プロンプトインジェクション: 外部文章は指示として扱わない
5-3. 法的コンプライアンス
著作権では、生成物が既存の著作物に似ていないか、学習データの利用が適法かが論点になります。日本では AI の学習目的の利用に一定の規定がありますが、生成物の利用は通常の著作権の判断と同じです。個人情報保護法では、個人データを AI サービスに入力する行為が「第三者提供」や「委託」に当たるかを整理し、必要な同意や契約を確認します。
金融・医療・教育などは業界固有の規制やガイドラインがあります。政府や業界団体のガイドラインは随時更新されるため、最新版を参照する習慣が大切です。
- 生成物の利用は通常の著作権判断と同じ
- 個人データの入力は第三者提供・委託の整理が必要
- ガイドラインは更新される。最新版を見る
出題の傾向と勉強のコツ
- 「何が起こり得るか（リスク）」と「どう防ぐか（対策）」を対で覚える
- 法律は条文の暗記ではなく、実務でどんな確認が必要かを問われる
- 練習問題の「倫理・法律」カテゴリで確認する