Human in the Loopとは

Human in the Loopとは

Human in the Loop（ヒューマン・イン・ザ・ループ、HITL）とは、AIが処理を進める流れ（ループ）の中に、人間が確認・承認・修正するポイントをあらかじめ組み込んでおく設計のことです。すべてをAIに任せるのでも、すべてを人がやるのでもなく、「AIが下準備をして、要所で人が判断する」形を作ります。

もともとは機械学習の分野で、人がデータに正解ラベルを付けたりAIの誤りを直したりしてモデルを改善する手法を指していました。現在は、AIエージェントを安全に業務で使うための基本的な考え方として使われることが多くなっています。

なぜ必要なのか

AIは間違えることがある: 生成AIはもっともらしい誤り（ハルシネーション）を出力することがあります

攻撃で操られる可能性がある: 外部のメールやWebページに仕込まれた指示でAIが誤作動するプロンプトインジェクションは、人の確認を挟むことで被害を抑えられます

責任の所在をはっきりさせる: 顧客への回答や契約に関わる判断は、最終的に人が責任を持つ必要があります

EUのAI規制法（AI Act）は、高リスクなAIシステムに「人による監視（Human oversight）」を義務づけています。日本の「AI事業者ガイドライン」（総務省・経済産業省）でも、人間の判断を介在させることが重要な観点として挙げられています。

人を入れるポイントの決め方

すべての工程に確認を入れると、AIを使う意味が薄れます。次の基準で絞り込むのが実務的です。

• 取り返しがつかない操作: メール送信、データ削除、発注、支払い

• 社外に出るもの: 顧客への回答、見積書、公開する文章

• AIの自信が低いもの: 判断の根拠が乏しい、前例のないケース

逆に、社内向けの下書きや情報の整理など、間違えてもすぐ直せる作業は自動で進めて問題ありません。

関連する考え方

• Human on the Loop: AIが自律的に動き、人は監視して必要なときだけ介入する

• Human out of the Loop: 人が関与せず完全に自動化する

業務のリスクに応じて、この3つを使い分けます。

具体例

ある不動産管理会社では、入居者からの問い合わせメールにAIエージェントが返信文の案を作り、担当者が確認ボタンを押してから送信する仕組みを導入しました。定型的な問い合わせは確認だけで済むため、対応時間はおよそ半分になりました。修理費用の負担など判断が必要な内容は、AIが「要確認」として担当者に回します。

AIエージェントの安全な設計についてはAIエージェントのセキュリティ対策、業務への組み込み方はAIエージェントによる業務自動化の実践ガイドで解説しています。

関連サービス

Swaaabでは、承認フローや権限設計を組み込んだAIエージェントをAIエージェント開発サービスで構築しています。