Con la maggior parte dei team di tesoreria che sta appena iniziando ad adottare l'IA nelle proprie operazioni, la maggior parte degli agenti IA per la tesoreria opera inizialmente in modalità di sola lettura. Offrono insight, ma non agiscono… ancora.

Che la propria organizzazione si trovi a giorni o ad anni dall'autorizzare l'IA ad approvare o eseguire transazioni, affidarsi a insight e raccomandazioni generate dall'IA richiede fiducia. La fiducia va guadagnata, e guadagnarla inizia con il conoscere l'agente.

Dopo il mio ultimo blog, ho ricevuto il feedback di qualcuno che sosteneva che la fiducia non conta molto quando un essere umano rimane nel processo decisionale. Se l'IA produce allucinazioni, argomentava, il professionista può semplicemente ignorare la raccomandazione.

Certo, un professionista della tesoreria può ignorare una raccomandazione dell'IA. Ma se l'unico controllo è ignorare la risposta, quale valore sta effettivamente fornendo l'IA? Un sistema che produce consigli su cui nessuno può fare affidamento non migliora granché. Anzi, aggiunge un ulteriore onere di revisione.

Se si utilizza l'IA per finanza, liquidità, pagamenti, copertura dei rischi e così via, a un certo punto si vorrà che essa svolga attività che non è possibile validare facilmente in pochi secondi. Anche se apprezzo molto l'idea di testare l'IA con domande di cui si conosce già la risposta, questa è la fase del «gattonare». Man mano che ci si avvicina al «camminare» e al «correre», si vorrà che l'IA prenda decisioni e agisca sulle proprie raccomandazioni. È necessario che l'IA sia responsabile nei confronti dell'organizzazione, il che cambia il modo in cui pensiamo e valutiamo la responsabilità dell'IA agentiva. 

Perché l'implementazione non equivale alla governance

I dati di Gartner dal Finance Symposium di quest'anno rendono il divario concreto: l'84% delle organizzazioni finanziarie ha implementato l'IA o ne sta pianificando l'adozione. Solo il 7% riporta un impatto elevato o molto elevato. Gli ostacoli citati da Gartner sono le lacune nella qualità dei dati e un ROI poco chiaro. Aggiungerei un terzo: la maggior parte delle organizzazioni ha integrato l'IA nei propri flussi di lavoro senza definire chi è responsabile dell'auditing dell'agente che sta dietro alla raccomandazione.

Il Risk Radar survey aggiornato di Kyriba quantifica il costo di tale lacuna. In nove paesi, quasi 4 finance leader su 5 (79%) hanno segnalato un impatto finanziario materiale derivante da una visibilità del rischio inadeguata negli ultimi 12 mesi. Le organizzazioni che implementano più attivamente l'IA sono anche quelle che con maggiore probabilità hanno già subito il costo di operare senza adeguati controlli di visibilità.

Il primo articolo di questa serie ha delineato cinque domande per valutare l'affidabilità dei consigli dell'IA. Ma quelle domande presuppongono qualcosa di più fondamentale: l'organizzazione deve sapere quale agente ha prodotto l'insight, a cosa era autorizzato ad accedere e cosa ha governato il suo ragionamento. L'opportunità dell'IA in tesoreria è migliorare l'affidabilità nella gestione del cash, della liquidità e delle coperture, affinché i team finanziari possano prendere decisioni migliori e più efficaci. Questo è il valore creato quando la raccomandazione di un agente è sufficientemente affidabile da poter essere messa in atto. Per arrivarci occorre fiducia nei propri agenti. In tesoreria, dove l'IA agentiva sta passando dai consigli all'esecuzione, la fiducia inizia dal sapere cosa sta facendo l'agente.

Il test «Conosci il tuo agente»

I professionisti della finanza ne riconosceranno immediatamente la struttura: è parallela ai framework Know Your Customer (KYC) che governano il rischio di controparte da decenni. Il KYC si applica a soggetti esterni. Il «Conosci il tuo agente» si applica all'IA che opera all'interno dei propri flussi di lavoro.

Il test si articola in quattro domande, a cui si dovrebbe poter rispondere senza dover cercare in più sistemi o contattare il fornitore.

• Quale agente ha prodotto la raccomandazione e chi ne è responsabile?

• Quali dati, strumenti e autorizzazioni ha utilizzato?

• Quale conclusione ha tratto e su quali basi?

• Prima dell'esecuzione, quale persona autorizzata ha esaminato, approvato, respinto o modificato la raccomandazione?

Se a queste domande non si risponde con chiarezza, non si ha un modello di governance ma solo un'implementazione.

Le risposte devono risiedere nello stesso registro di tesoreria della decisione stessa, non in un log separato dell'IA. Per una raccomandazione relativa a cash, liquidità, pagamenti o copertura dei rischi, i dirigenti e i revisori devono poter vedere i saldi rilevanti, le previsioni, gli estratti conto bancari, le esposizioni e le policy; quando questi input sono stati aggiornati; cosa l'agente ha calcolato o escluso; quali controlli e approvazioni sono stati applicati; e chi ha esaminato il passaggio successivo. Le attività dell'agente, la cronologia dei pagamenti, i dati bancari, le approvazioni dei flussi di lavoro e i controlli delle policy devono formare un unico audit trail integrato, in modo che nessuno debba ricostruire una transazione o un flusso di pagamento su più sistemi.

L'audit trail indica cosa è accaduto. Un harness specifico per la tesoreria contribuisce a garantire che la raccomandazione sia stata prodotta nel rispetto delle regole operative dell'organizzazione. In termini pratici, l'agente deve mostrare il lavoro di tesoreria, non solo la conclusione del modello. Quali dati ha utilizzato? Quale policy ha applicato? Quale calcolo ha eseguito? Cosa ha escluso? Quale eccezione ha identificato? Dove era richiesta l'approvazione umana?

Il TAI di Kyriba è progettato per operare all'interno di quel flusso di lavoro controllato di tesoreria, utilizzando le autorizzazioni, i processi ripetibili e i controlli di audit che governano la decisione sottostante. L'obiettivo non è creare un framework di controllo separato per l'IA, ma rendere l'agente parte del framework di controllo della tesoreria già in uso.

Questo offre ai finance leader un modo pratico per applicare il test «Conosci il tuo agente»: comprendere cosa l'agente era autorizzato a vedere, seguire come ha raggiunto la propria conclusione e identificare dove l'autorità umana è entrata nel flusso di lavoro. La tecnologia dovrebbe rendere più facile produrre tali risposte, non più difficile trovarle.

Sapere con quale agente si ha a che fare

Ogni agente IA che opera in un flusso di lavoro di tesoreria deve essere identificabile: quale agente ha prodotto l'output, cosa è stato modificato e chi lo ha autorizzato a operare nel contesto in cui è stato utilizzato.

I team di tesoreria spesso utilizzano più strumenti IA contemporaneamente: un modello di previsione, un rilevatore di anomalie nei pagamenti, un assistente di categorizzazione del cash, un modello per scenari. Quando emerge una raccomandazione, la risposta appropriata dipende in parte da quale agente l'ha prodotta, in quali condizioni, e se tale agente operava nel quadro del proprio mandato definito.

Un agente con un mandato ristretto — come segnalare eccezioni infragiornaliere — è fondamentalmente diverso da un agente con un accesso esteso per prevedere, categorizzare e raccomandare. La raccomandazione di ciascuno deve avere un peso diverso e requisiti di governance distinti.

Ciò che l'agente ha visto determina ciò che ha detto

Una sequenza agentiva deve confermare che i dati richiesti siano presenti prima di produrre un output. Un team di tesoreria si aspetterebbe ragionevolmente che venga verificato l'arrivo dei file bancari, il completamento delle riconciliazioni e la disponibilità delle posizioni delle entità richieste. Questi controlli possono rilevare lacune evidenti, ma non garantiscono che i dati siano corretti.

Una banca può inviare transazioni duplicate. Un feed può essere aggiornato ma incompleto. Una riconciliazione può abbinare le voci sbagliate. La presenza dei dati non equivale all'affidabilità dei dati. L'agente deve identificare queste condizioni e bloccarsi o escalare quando non è in grado di stabilire uno stato dei dati affidabile.

Risk Radar misura direttamente la portata del problema dell'aggiornamento dei dati. Meno di 1 finance leader su 4 dichiara che la propria organizzazione riesce a quantificare in tempo reale le implicazioni finanziarie di un rischio emergente. La maggior parte impiega da uno a sei giorni. Anche negli USA, la quantificazione in tempo reale si attesta a solo il 23,9%.

I dati da soli non fanno di un agente un efficace assistente di tesoreria. Si consideri un agente che esamina un pagamento insolito di 4 milioni di dollari da una filiale. In base all'importo e al beneficiario, contrassegna il pagamento come anomalo. Un professionista della tesoreria sa invece che si tratta di un bonifico infragruppo ricorrente, pianificato a fine mese, entro i limiti approvati e collegato a un deficit di liquidità noto.

Senza le informazioni sulla relazione tra entità, la finalità del pagamento, la cronologia delle approvazioni e il contesto di policy, l'agente ha identificato uno schema insolito, ma non necessariamente un pagamento anomalo. Ha eseguito il riconoscimento del pattern. Non ha ancora svolto il lavoro di tesoreria.

Un harness di tesoreria fornisce questo contesto: gerarchie di entità, obbligazioni di cassa confermate, soglie di policy, tempi di cut-off e flussi di lavoro approvati. Senza questi input, l'IA può essere tecnicamente corretta e operativamente errata. Per questo un assistente di tesoreria efficace ha bisogno di più del semplice accesso ai dati. Ha bisogno del contesto di tesoreria necessario per interpretarli.

Il ragionamento deve essere tracciabile

La spiegabilità in tesoreria è il meccanismo che consente a un revisore umano di decidere se agire su una raccomandazione, escalarla, contestarla o metterla da parte.

Risk Radar aggiunge un ulteriore elemento a questo ragionamento. In nessun paese e in nessun settore più della metà dei finance leader valuta come «alta fiducia» la propria capacità di analizzare l'esposizione al rischio. Nel settore tecnologico, che guida tutti i settori nell'adozione dell'IA, la cifra è solo del 36,5%. Un revisore che opera con una fiducia moderata nelle proprie basi analitiche ha bisogno di poter seguire il ragionamento dell'agente passo dopo passo. Senza questo, la fase di revisione è un'approvazione, non un audit.

Si consideri la copertura del rischio di cambio (FX hedging). Un responsabile di tesoreria sa cosa fare se le previsioni sono incerte, e cosa fare se ha piena fiducia nelle proiezioni di crediti e debiti in valuta estera. Ha bisogno di questo livello di trasparenza da parte di un agente IA per sapere quali azioni intraprendere. L'agente non può operare come una black box. In tesoreria, le black box non hanno posto nella catena decisionale.

La supervisione umana richiede una chiara catena di responsabilità

La supervisione human-in-the-loop è il quarto controllo e quello definito in modo più vago. L'espressione è ovunque, ma raramente ben definita.

La supervisione umana in tesoreria funziona solo se policy, esecuzione e audit trail sono perfettamente allineati. Se la sequenza delle azioni — sia quelle dell'IA sia quelle umane — è in grado di identificare quale persona ha agito, in quale fase, con quale autorità per approvare, escalare o respingere, e in quali condizioni quella fase può essere saltata, allora l'intero flusso di lavoro può essere mappato rispetto alla policy e successivamente ricostruito dai revisori per garantire la conformità.

In questa prima fase di adozione dell'IA, il ruolo fondamentale di approvazione delle transazioni è spesso svolto dall'essere umano nel processo. E anche l'audit trail più elementare registrerà quell'azione. Ma man mano che i team di tesoreria si preparano all'esecuzione di pagamenti e transazioni da parte dell'IA, è l'intero processo che deve essere tracciabile e applicabile in un unico sistema con un unico insieme di controlli. Occorre inoltre distinguere chiaramente chi ha eseguito quale azione. Dobbiamo sapere cosa ha fatto l'IA. 

Prima che il consiglio diventi azione

Il primo articolo di questa serie si concludeva con una domanda: possiamo dimostrare perché l'agente ha fornito quel consiglio prima che qualcuno agisca di conseguenza? Il test «Conosci il tuo agente» è la struttura per rispondere a questa domanda: quattro elementi da documentare prima che una raccomandazione influenzi una decisione di tesoreria.

Le organizzazioni che non superano il test non sono pronte per implementare l'IA nell'esecuzione autonoma. La responsabilità deve precedere l'autonomia. Gli agenti IA in tesoreria che non possono essere identificati, che non rendono visibile il proprio stato dei dati, che non possono mostrare il proprio ragionamento e che operano senza una supervisione umana designata non sono pronti per affrontare la fase del «camminare», tantomeno quella del «correre».

«L'IA lo ha detto» non costituisce un audit trail. Conosca il suo agente prima di fidarsi delle sue raccomandazioni.