インサイト/ AIと自動化
人が確認するAIワークフローの作り方
人が関与するワークフローでは、AIを使うプロセスの確認、承認、修正、上位担当者への引き継ぎに、人の役割を明確に定めます。名称だけで監督が保証されるわけではありません。確認者が整った提案しか見られず、根拠を調べる時間がなく、操作を止められないなら、名目上の確認にすぎない可能性があります。有効な確認は、人が資格と権限を持って行える判断を中心に設計します。
結果の影響に応じて確認箇所を選ぶ
業務フローを整理し、AIの出力が顧客、従業員、財務記録、外部への約束に影響する箇所を示します。誤った結果がどのような損害を生み、どれほど容易に取り消せ、確実なルールで実行前に検出できるかを考えましょう。影響の小さな分類は抽出検査と監視で足りる場合がありますが、支払実行や規定の例外には明示的な事前承認が必要かもしれません。適切な水準は、プロセス、適用される義務、自社のリスク評価によって決まります。
AIの提案とシステムの操作を分けます。例えば、モデルが請求書の項目を抽出し、決定的なルールで検証した後、不一致を権限のある承認者が解決する流れにします。単純な「承認」ボタンで根拠が隠れてはいけません。原資料、抽出値、関連規定や照合結果、利用できる場合は不確実性の手掛かり、承認で許可される正確な操作を示しましょう。
有用で責任の明確な確認にする
確認者の権限を定義します。承認、却下、編集、追加情報の依頼、別の専門家への転送などです。判断できる役割、その担当者が不在の場合の対応、二重確認が必要な条件を決めましょう。判断は、確認者、時刻、理由、関連出力の版とともに案件記録へひも付けます。MicrosoftのPower Automateの承認ガイドは、人の応答を待ち、選ばれた結果に応じてワークフローを進める方法を示しています。
モデルと同じくらい慎重に待ち行列を管理しましょう。対応の基準と責任者を定め、案件が気付かれないまま古くならないようにします。有用な確認画面は理由別に案件をまとめ、原資料をすぐ開けるようにします。些細な案件で埋め尽くさず、意味のある不確実性や影響に確認の労力を使うよう、ルールを調整します。確認者がいつも修正せず承認するなら、その関門の必要性や、画面が本当の確認を困難にしていないかを調べましょう。
不確実性と代替動作を明示する
AIの確信度は確認の優先順位付けに役立ちますが、正しさの証拠ではありません。代表的な例と誤りの種類ごとの費用から閾値を定めます。データ欠落、記録の矛盾、想定外の出力形式、サービス停止、ツール失敗への代替動作を明確にしましょう。手動対応の待ち行列、確認の依頼、外部操作前の停止などが安全な代替策になり得ます。これらの経路もテストが必要です。正常系だけの実演では、不正な形式の入力時に何が起きるか分かりません。
エージェントとツールを使うシステムでは、各ツールができることを制限し、呼び出しと結果を一緒に記録します。OpenAIのエージェントガイドは、ツールと引き継ぎを扱っています。運用上は、各引き継ぎで背景を保持し、次の判断の責任者を明示すべきです。プロンプトだけに頼らず、操作の実行境界で権限と承認の関門を適用しましょう。
修正を運用の学びに変える
適切なアクセス制御と保存期間を設け、分析できる形で確認者の修正を記録します。入力の種類や誤りの分類ごとに傾向を見ましょう。同じ修正の繰り返しは、原データの質、古い規定文書、弱い抽出工程、分かりにくい画面が原因かもしれません。稼働中の流れを変える前に根本原因を直し、固定した事例集で再テストします。チームが動作の変化の理由を理解できるよう、版の履歴を残しましょう。
処理時間、意見の違い、覆された判断、引き継ぎ、後工程の手戻りを監視します。チーム、言語、顧客層によって性能が異なることがあるため、異なる集団の案件を確認しましょう。これらの兆候を見直し、基準に達したら処理を止める責任者を置きます。Zendralは、実際の業務に合った、管理可能なAIワークフローの設計を支援します。当社のAI・自動化サービスをご覧いただくか、Zendralへお問い合わせください.