ヒューマン・イン・ザ・ループとは
ヒューマン・イン・ザ・ループは、AI やエージェントの作業の途中や最後に、人の確認・承認・修正を組み込む設計です。HITL と略されることもあります。
AI の出力は誤りを含むことがあり、エージェントは判断を誤ったまま作業を進めることがあります。メールの送信、支払い、データの削除のように、取り消しにくい操作の前に人の承認を挟めば、誤りが外に出る前に止められます。
どこに人を入れるかは、誤りが起きたときの影響の大きさで決めます。社内向けの下書きなら最後にまとめて確認し、顧客への送信や契約に関わる操作なら一件ずつ承認する、といった具合です。すべてを人が確認すると、自動化の効果が薄れます。
人の確認を形だけにしない工夫も必要です。確認する人が判断できるよう、AI が参照した根拠や変更点を一緒に示します。人が直した内容は記録し、プロンプトや仕組みの改善に生かします。
具体例
請求書の処理
取引先から届いた請求書の金額と期日を AI が読み取り、会計システムへの登録案を作ります。担当者は、読み取った値と元の請求書を並べた画面で確かめてから、登録を確定します。金額が発注書と一致しないものは、AI が印を付けて目立たせます。
顧客へのメール返信
問い合わせへの返信案は AI が作り、送信は担当者が内容を確かめてから行います。ある種類の問い合わせで誤りがほとんど無いと確かめられたら、その種類だけ確認を簡略にします。このように、任せる範囲を段階的に広げます。
エージェントの作業計画を承認する
複数の手順を自分で進めるエージェントには、作業を始める前に「何を、どの順で、どのツールで行うか」の計画を示させます。担当者が計画を確かめて承認してから実行させると、方向違いの作業や、意図しない操作を早い段階で止められます。