ほとんどの資金管理チームがAIの業務活用をようやく始めたばかりの現段階では、トレジャリーAIエージェントの多くが読み取り専用モードで稼働しています。インサイトは提供するものの、まだ自律的な行動は取りません。

AIによるトランザクションの承認・実行を許可するまでに、組織として数日先のこともあれば数年先のこともあるでしょう。いずれにせよ、AIが生成したインサイトや推奨に依拠するには信頼が不可欠です。信頼は獲得するものであり、その出発点はエージェントを理解することにあります。

前回のブログ記事を公開した後、「人間がループ内に留まっている限り、信頼はさほど重要ではない」というご意見をいただきました。AIがハルシネーション（幻覚）を起こしても、人間が推奨を無視すれば済む、という論旨でした。

もちろん、資金管理の専門家がAIの推奨を無視することは可能です。しかし、唯一のコントロールが「答えを無視すること」であれば、AIは実際にどんな価値を提供しているのでしょうか。誰も頼れない推奨を生成するシステムは、ほとんど何も改善しません。むしろ、追加のレビューの負担を生むだけです。

財務・キャッシュ・決済・ヘッジなどにAIを活用しているなら、いずれは数秒では検証しきれない業務をAIに委ねたいと思うはずです。既知の答えでAIをテストするのは「ハイハイ」の段階にすぎず、「歩く」「走る」段階に進めば、AIに意思決定を委ね、その推奨に基づいて行動させることになります。AIが組織に対して説明責任を果たす仕組みが必要であり、それによってエージェンティックAIの説明責任のあり方と検証方法が根本から変わります。 

導入はガバナンスと同義ではない

ガートナーが今年のファイナンス・シンポジウムで示したデータは、このギャップを明確に示しています。財務組織の84%がAIを導入済み、または導入予定です。一方、高い成果を報告しているのはわずか7%に過ぎません。ガートナーが挙げる障壁はデータ品質のギャップとROIの不透明さです。私はさらにもう一つを加えたいと思います。大多数の組織が、推奨の背後にあるエージェントを監査する責任者を定めないままAIをワークフローに組み込んでいるという点です。

Kyribaの最新Risk Radar調査は、このギャップのコストを数値で示しています。9カ国において、財務リーダーのほぼ4人に3人（79%）が、過去12カ月間にリスクの可視性不足によって重大な財務的影響を受けたと回答しています。AIを最も積極的に導入している組織こそ、適切な可視性コントロールなしに運用してきたコストをすでに負っている可能性が最も高いといえます。

本シリーズの第1回では、AIの推奨を信頼するための5つの問いを示しました。しかし、それらの問いはより根本的な前提を要します。組織は、どのエージェントがインサイトを生成し、何へのアクセスが許可されており、そのエージェントの推論を何が制御しているかを把握していなければなりません。トレジャリーにおけるAIの機会は、キャッシュ・流動性・ヘッジ全体の信頼性を高め、財務チームがより的確で価値ある意思決定を行えるようにすることです。それを「正しく実行することの価値」と呼ぶことができます。エージェントの推奨が実際に行動に移せるほど信頼できるとき、初めてその価値が生まれます。そこに至るには、エージェントへの信頼が必要です。エージェンティックAIが推奨から実行へと移行するトレジャリーの世界では、信頼はエージェントが何をしているかを理解することから始まります。

「エージェントを知る（Know Your Agent）」テスト

金融の専門家なら、この構造に即座に覚えがあるはずです。数十年にわたってカウンターパーティリスクを規律してきたKYC（顧客確認）の枠組みと並行する構造です。KYCは外部の取引相手に適用されます。「エージェントを知る」は、自組織のワークフロー内で稼働するAIに適用されます。

このテストは4つの問いで構成されており、複数のシステムを検索したりベンダーに問い合わせたりしなくても答えられるものでなければなりません。

• どのエージェントが推奨を生成し、その運用責任者は誰か。

• どのデータ、ツール、権限を使用したか。

• どのような結論に至り、その根拠は何か。

• 実行に移す前に、その推奨をレビュー／承認／却下／変更した権限を持つ担当者は誰か。

これらの問いに明確に答えられないなら、それはガバナンスモデルではなく、単なる導入に過ぎません。

これらの答えは、意思決定そのものと同じトレジャリー記録の中に存在すべきであり、AIの別個のログに分離されてはなりません。キャッシュ、流動性、決済、ヘッジに関する推奨については、経営陣や監査人が、関連する残高・予測・銀行明細・エクスポージャー・ポリシー、それらのインプットの更新時期、エージェントが計算・除外した内容、適用されたコントロールと承認、次のステップをレビューした担当者を確認できなければなりません。エージェントの活動、決済履歴、銀行データ、ワークフロー承認、ポリシーチェックは、単一で一貫した監査証跡を形成すべきです。そうすることで、誰も複数のシステムをまたいでトランザクションや決済ワークフローを再構築する必要がなくなります。

監査証跡は何が起きたかを示すものです。トレジャリー専用のハーネスは、推奨が組織の運用ルール。 実務上は、エージェントがモデルの結論だけでなく、トレジャリー業務のプロセス自体を示すべきです。どのデータを使用したか。どのポリシーを適用したか。どの計算を実行したか。何を除外したか。どの例外を特定したか。人間の承認が必要だったのはどこか。

KyribaのTAIは、この制御されたトレジャリーワークフロー内で稼働するよう設計されており、基礎となる意思決定を制御する既存の権限、再現可能なプロセス、監査コントロールを活用します。目的は、別個のAIコントロールフレームワークを新たに構築することではありません。エージェントを、すでに運用中のトレジャリーコントロールフレームワークの一部にすることです。

これにより財務リーダーは、「エージェントを知る」テストを実践的に適用できます。エージェントが参照可能だった範囲を把握し、どのように結論に至ったかを追跡し、ワークフロー内で人間の権限が介在した箇所を特定する。テクノロジーはこれらの答えを見つけやすくするものであるべきであり、難しくするものであってはなりません。

どのエージェントと向き合っているかを把握する

トレジャリーワークフロー内で稼働するすべてのAIエージェントは識別可能であるべきです。どのエージェントがアウトプットを生成し、何が変更され、誰がそのコンテキストでの稼働を承認したかが明確でなければなりません。

資金管理チームは、予測モデル、決済異常検知ツール、キャッシュ分類アシスタント、シナリオモデラーなど、複数のAIツールを同時運用することが少なくありません。推奨が生じた際の適切な対応は、どのエージェントがどの条件下でそれを生成し、定義されたスコープ内で稼働していたかによって異なります。

イントラデイの例外をフラグ立てするだけの限定的なマンデートを持つエージェントと、予測・分類・推奨に幅広いアクセスを持つエージェントは、本質的に異なる存在です。それぞれの推奨には異なる重みと、異なるガバナンス要件が必要です。

エージェントが見たものが、エージェントの言葉を決める

エージェンティック・シーケンスは、アウトプットを生成する前に必要なデータが揃っていることを確認すべきです。資金管理チームであれば、銀行ファイルの到着、照合の完了、必要なエンティティポジションの利用可能性を検証することを合理的に期待するでしょう。こうしたコントロールは明らかなギャップを捉えられます。しかし、データが正確であることまでは保証されません。

銀行が重複したトランザクションを送信することがあります。フィードが最新であっても不完全な場合があります。照合が誤ったアイテムを突き合わせることがあります。データの存在は、データの信頼性を意味しません。エージェントはこうした状況を特定し、信頼できるデータ状態を確立できない場合には停止またはエスカレーションする必要があります。

Risk Radarは、データの即時性の問題がどれほど広範に及んでいるかを直接測定しています。財務リーダーの4人に1人未満しか、新興リスクの財務的影響をリアルタイムで定量化できていません。大多数は1日から6日を要します。米国においてもリアルタイム定量化はわずか23.9%に留まっています。

データだけでは、エージェントを効果的なトレジャリーアシスタントにすることはできません。ある子会社から4百万ドルの異常な支払いを審査しているエージェントを考えてみてください。金額と受取人を根拠に、そのエージェントは支払いを異常としてフラグを立てます。しかし、資金管理の専門家であれば、その支払いが月末に定期的に発生する関連会社間の資金調達トランスファーであり、承認済みの限度額内にあり、既知の流動性不足に紐付いていることを把握しています。

エンティティ間の関係、支払い目的、承認履歴、ポリシーのコンテキストがなければ、エージェントは異常なパターンを特定しただけであり、必ずしも異常な支払いを特定したわけではありません。パターン認識は行っています。しかし、トレジャリーの業務はまだ完了していません。

トレジャリーハーネスがそのコンテキストを提供します。エンティティ階層、確定したキャッシュ債務、ポリシーの閾値、カットオフタイム、そして承認済みワークフロー。これらのインプットがなければ、AIは技術的に正確であっても業務上は誤った判断を下す可能性があります。そのため、効果的なトレジャリーアシスタントにはデータへのアクセス以上のものが必要です。そのデータを解釈するために必要な、トレジャリーのコンテキストが不可欠です。

推論は追跡可能でなければならない

トレジャリーにおける説明可能性とは、人間のレビュー担当者が推奨に基づいて行動するか、エスカレーションするか、異議を唱えるか、または保留にするかを判断できる仕組みです。

Risk Radarの調査結果は、この議論にさらなる深みを加えます。国・業界を問わず、自組織のリスクエクスポージャー分析能力を「高い信頼度」と評価する財務リーダーは半数未満です。AI導入で全業界をリードするテクノロジーセクターでも、その数値はわずか36.5%にとどまります。自分自身の分析基盤に中程度の自信しか持てないレビュー担当者は、エージェントの推論をステップごとに追跡できる必要があります。それができなければ、レビューのステップは承認に過ぎず、実質的な監査にはなりません。

FXヘッジを例に考えてみましょう。資金管理マネージャーは、自身の予測が不確かな場合と、外貨建ての買掛金・売掛金予測に完全な確信がある場合とで、取るべき行動を理解しています。AIエージェントからも同等のレベルの透明性が得られてこそ、どのアクションを取るべきかを判断できます。エージェントはブラックボックスとして機能してはなりません。トレジャリーにおいて、ブラックボックスは意思決定チェーンに存在する余地はありません。

人による監督には、明確な責任の所在が不可欠

ヒューマン・イン・ザ・ループの監督は4番目のコントロールであり、最も曖昧に語られるものでもあります。この言葉はあらゆる場所で登場しますが、明確に定義されることはほとんどありません。

トレジャリーにおける人間の監督が機能するのは、ポリシー・実行・監査証跡が完全に整合している場合のみです。AIと人間の両方によるアクションのシーケンスが、誰がどのステップで、どの権限をもって承認・エスカレーション・却下を行い、どの条件下でそのステップをスキップできるかを正確に示せるなら、ワークフロー全体をポリシーにマッピングし、監査人が後から再構築してコンプライアンスを確認できます。

AI導入のこの初期段階では、トランザクションを承認するという重要な役割をループ内の人間が担うケースが多く、基本的な監査証跡であればその行動を記録します。しかし、資金管理チームがAIによる決済・トランザクション実行に向けて準備を進めるにあたっては、単一のシステムと単一のコントロールセットでプロセス全体が追跡可能かつ強制可能でなければなりません。さらに、誰がどのアクションを行ったかを明確に区別できることが求められます。AIが何をしたかを把握する必要があります。 

推奨が行動に変わる前に

本シリーズの第1回は一つの問いで締めくくられていました。誰かが行動を起こす前に、なぜエージェントがその推奨を行ったのかを証明できるか。「エージェントを知る」テストは、その問いに答えるための構造です。推奨がトレジャリーの意思決定に影響を与える前に文書化すべき、4つの要素です。

このテストに合格できない組織は、自律的な実行を目的としたAIの導入に備えていません。説明責任は自律性に先行しなければなりません。識別できず、データ状態を開示せず、推論を示せず、指名された人間の監督なしに稼働するトレジャリーのAIエージェントは、「歩く」段階を任せられる準備ができていません。ましてや「走る」段階には程遠いと言えます。

「AIがそう言った」は監査証跡にはなりません。推奨を信頼する前に、まずエージェントを理解してください。