企業のバックオフィスでも、文章の作成、書類の読み取り、分類、要約などにAIが使われ始めています。しかし、AIへデータを渡した後は、社内の担当者が出力を確認し、間違いを直し、業務システムへ登録しているケースも少なくありません。

AIを導入しても、人の作業がなくなったわけではありません。AIの後ろに確認作業が残り、その部分だけが従来どおりのメール、Excel、担当者の経験で運用されていることがあります。

Human-in-the-loop（ヒューマン・イン・ザ・ループ、HITL）は、AIと人を対立させる考え方ではありません。AIだけでは完結しない業務の中に人の判断を組み込み、その結果を次の処理や改善へ戻せるようにする考え方です。

この記事では、Human-in-the-loopを機械学習の学習手法だけに限定せず、企業の実務においてAIと人が一つの業務を処理する仕組みとして扱います。

Human-in-the-loopとは何か

Human-in-the-loopは、機械による処理の途中に人が参加し、判断、修正、評価などを行う仕組みです。人が作った結果をAIの学習へ利用する場合もあれば、運用中のAIが確定できないものだけを人へ回す場合もあります。

Robert (Munro) MonarchのHuman-in-the-Loop Machine Learningでは、アノテーション、能動学習、転移学習、品質管理、作業画面の設計など、人と機械が協力する機械学習プロセス全体が扱われています。日本語版は『Human-in-the-Loop機械学習―人間参加型AIのための能動学習とアノテーション』として刊行されています。

また、NISTのAI Risk Management Frameworkでも、AIを設計、開発、運用する際には、人が担う役割と責任を明確にすることの重要性が示されています。

AIの後を人へ渡すだけではループが途切れる

現在よく見られるのは、AIへ処理を依頼し、その出力を社内担当者が確認する形です。

1. 書類や文章をAIへ入力する
2. AIが読み取り、分類、要約、候補作成などを行う
3. 社内担当者が出力を確認する
4. 担当者が誤りを修正し、業務システムへ登録する

この流れにも人は参加しています。しかし、人の修正結果や判断理由が記録されず、次の処理へ戻らない場合、AIから人へ業務を受け渡したところでループはいったん途切れています。

「AIが作成した後は担当者が適宜確認する」という運用では、誰が何を基準に確認するのか、判断できない場合は誰へ聞くのか、どのような誤りが多いのかが整理されません。AIを導入した後も社内の負担が思ったほど減らず、担当者への属人化だけが残ることがあります。

人が判断する工程もシステムとして扱える

人の判断をシステムに組み込むといっても、人を機械のように扱うという意味ではありません。人が担当する工程にも、インプット、作業仕様、アウトプット、例外処理を定義するということです。

処理する主体は機械と人で異なりますが、業務工程として必要な要素は共通しています。人に渡すデータと、判断後に受け取るデータの形式を決めれば、人の作業も一連の処理の中へ接続できます。

Human-in-the-loopには二つのループがある

業務運用の観点から見ると、Human-in-the-loopには二つの循環があります。

1. 業務を完了させるループ

AIが処理し、人が確認・修正し、確定した結果を業務システムへ戻します。目的は、その時点の業務を正しく完了させることです。

2. 業務を改善するループ

人による修正、保留、質問、判断理由を蓄積し、プロンプト、処理ルール、作業仕様、AIモデルなどの改善へ利用します。目的は、次回以降の精度や処理効率を高めることです。

修正結果をAIモデルの再学習へ使うとは限りません。頻出する例外をルールへ追加する、入力形式を変える、プロンプトを直す、確認画面を改善するだけでもループは機能します。

バックオフィス業務ではどこに人を入れるか

すべてを人が処理すれば費用と時間がかかり、すべてをAIへ任せれば誤りや例外に対応できないことがあります。重要なのは、人を残すかどうかではなく、どこへ人の判断を置くかです。

例えばレシートや請求書を処理する場合、AIが店舗名、日付、金額を読み取り、信頼度の低い項目や形式に合わない項目だけを人へ回します。人は画像と結果を照合して修正し、確定データを返します。修正内容を集計すれば、特定の帳票や項目で誤りが多いことも分かります。

問い合わせ対応では、AIが内容を分類して回答候補を作り、人が内容を確認します。判断できないものは責任者へ回し、確定した回答と修正理由を記録します。こうした設計により、AIと人の処理が別々の作業ではなくなります。

人を入れれば品質が上がるとは限らない

Human-in-the-loopは、人を配置するだけで完成するものではありません。判断基準が曖昧であれば、担当者ごとに結果が変わります。作業量が多すぎれば見落としが増え、確認画面が使いにくければ処理時間も長くなります。

人が担当する工程では、少なくとも次の点を設計します。

• 何を確認し、何を確認しないか
• 正しい状態をどのように定義するか
• 判断できない場合に選べる保留区分
• 誰へ、どの条件でエスカレーションするか
• 全件検品と抜き取り検品をどう使い分けるか
• 判断結果と修正理由をどこまで記録するか
• 処理時間、修正率、不一致率をどう測るか

AIの精度だけを測るのではなく、人の確認まで含めた最終精度、処理時間、費用を確認する必要があります。AI単体の正答率が高くても、人が全件を詳しく確認していれば、業務全体として効率化できているとは限りません。

BPOの役割は「残った作業を引き取る」ことではない

AI導入後に社内へ残った確認作業を、そのまま外部へ移すだけでは属人化も一緒に移ります。Human-in-the-loop型のBPOでは、人が担当する範囲を切り出し、判断基準、作業画面、出力形式、検品、例外対応までを一つの工程として設計します。

従来のBPOで行われてきた、複雑な業務の整理、マニュアル化、作業者教育、質問管理、検品、進捗管理は、Human-in-the-loopにも必要です。対象が人だけで処理する業務から、AIと人が共同で処理する業務へ変わっても、安定運用に必要な考え方は共通しています。

Human-in-the-loopで重要なのは、単に人を残すことではありません。AIが処理し、人が確認する一連の流れを、一つのシステムとして設計することです。