Presenta, tuttavia, delle criticità: nel merito creditizio viene infatti classificata come un sistema high risk, in linea con quanto stabilito nell’AI Act, la legge europea sull’intelligenza artificiale.
Ed è proprio alla luce di tali criticità che si inserisce un approccio quale quello dell’Explainable AI o XAI, orientato a rendere le decisioni automatizzate trasparenti, verificabili e governabili.
Le soluzioni di Credit Risk Analytics and Consulting di Experian nascono per supportare gli istituti finanziari nello sviluppo di modelli di analisi del rischio più efficaci e conformi ai requisiti normativi. Permettono di massimizzare la potenza dei dati, grazie a misure efficaci, nel segno dell’Explainable AI.
Che cos’è l’Explainable AI nel credito
Ma che cos’è l’Explainable AI nel credito? Si tratta di un’impostazione metodologica dell’intelligenza artificiale volta a rendere comprensibile il funzionamento dei modelli utilizzati nei processi decisionali.
Nel settore del credito, questo approccio permette di individuare e spiegare i fattori principali che contribuiscono a un determinato esito, come ad esempio l’approvazione/il rifiuto di una richiesta, la definizione di un limite di credito oppure l’applicazione di specifiche condizioni economiche.
L’Explainable AI nel credit rende dunque le decisioni meglio interpretabili da parte dei soggetti coinvolti: qualcosa che si rivela decisamente importante, vediamo perché.
Perché una decisione automatizzata deve essere comprensibile e verificabile
La XAI contribuisce così a trasformare modelli complessi in strumenti più trasparenti, favorendo una migliore comprensione dei criteri utilizzati nelle valutazioni automatizzate, che vengono sviluppate nel segno dell’accuratezza, della chiarezza e dell’equità.
Ma perché questo è così cruciale? Perché sapere quali fattori hanno inciso maggiormente sulla valutazione consente di rafforzare la fiducia degli utenti, agevolare le attività di controllo interno e dimostrare la conformità rispetto ai requisiti normativi previsti per i sistemi di intelligenza artificiale ad alto rischio.
I benefici non sono soltanto per gli addetti ai lavori. Una decisione spiegabile influisce positivamente sulla customer experience, che si giova di motivazioni coerenti e verificabili: si evita alla radice che l’esito di una valutazione venga percepito come il risultato di una “scatola nera”.
Le organizzazioni, invece, possono far leva su strumenti utili per verificare il corretto funzionamento dei modelli e intervenire tempestivamente qualora subentrassero anomalie o criticità.
Dove serve trasparenza nelle decisioni di credito
L’Explainable AI trova applicazione nei principali processi di matrice decisionale che caratterizzano il ciclo del credito, offrendo dati meglio “spiegati”, più accurati e per questo più affidabili. Vediamo di quali si tratta.
Credit scoring, approvazione, limiti e pricing
L’Explainable AI viene adottata, nel credit, soprattutto soprattutto nei processi che richiedono un’elevata qualità dei dati, ovvero:
- credit scoring: interviene nella spiegazione dei dati che contribuiscono alla valutazione del merito creditizio, mostrando i fattori e le variabili che determinano il punteggio di affidabilità del cliente;
- approvazione/rifiuto della richiesta: l’Explainable AI offre delucidazioni sui dati che hanno portato a un esito positivo o negativo della pratica;
- limiti di credito: la XAI presenta un chiarimento degli elementi considerati nella definizione dell’importo accordato;
- pricing: aggiunge maggiore trasparenza sui fattori che incidono sulle condizioni economiche applicate, inclusi i tassi d’interesse.
Il ruolo dell’AI high-risk nei processi di valutazione
L’AI Act, ovvero Artificial Intelligence Act, è stato pubblicato dall’UE in Gazzetta Ufficiale il 12 luglio 2024 e rappresenta a tutt’oggi il framework normativo di riferimento.
Si distingue per un approccio di stampo “risk-based”: più è alto il rischio in un determinato sistema di IA, più sono importanti le responsabilità per chi se ne avvale.
I sistemi di intelligenza artificiale utilizzati per valutare il merito creditizio sono classificati dall’AI Act con un livello di rischio elevato; quelli a tema cybersecurity denotano invece un rischio limitato: sussiste l’obbligo di informare l’utente.
La XAI svolge un ruolo fondamentale in quanto l’AI Act impone obblighi severi di trasparenza, tracciabilità e supervisione umana. Senza l’Explainable AI è tecnicamente impossibile spiegare come l’algoritmo sia giunto a una determinata valutazione creditizia, a un determinato dato.
Cosa rende una spiegazione davvero utile
Per essere realmente efficace, un approccio XAI deve consentire di comprendere i fattori alla base dei dati elaborati dal modello. Vediamo quali spiegazioni devono ricevere i clienti e, più in generale, i diversi interlocutori.
Reason code, fattori principali e documentazione del modello
Una spiegazione risulta realmente utile quando permette di comprendere gli elementi che hanno contribuito agli output del modello. Tra gli strumenti più utilizzati rientrano:
- reason code: rappresentano i codici standardizzati che sintetizzano le principali motivazioni associate a un determinato risultato, agevolandone l’interpretazione, la classificazione e le attività di reporting;
- fattori principali di rischio: evidenziano le variabili che hanno avuto il maggiore impatto nell’elaborazione dei dati utilizzati per la valutazione, facilitando la comprensione del contributo di ciascun fattore rispetto al risultato ottenuto;
- documentazione del modello: descrive struttura, dati utilizzati e modalità di funzionamento dell’algoritmo, ottimizzandone la verifica e la tracciabilità, fungendo sostanzialmente da “carta d’identità” del modello.
Spiegazioni diverse per cliente, business, risk e compliance
Le spiegazioni generate dalla XAI vengono approntate in modo tale da adattarsi alle esigenze dei diversi interlocutori, ma cosa significa concretamente? Il cliente viene facilitato nel comprendere i principali fattori che hanno inciso sul risultato della valutazione con un linguaggio chiaro e accessibile.
Per gli addetti ai lavori che operano invece lato business, risk e compliance, viene invece presentato un livello di dettaglio maggiore, utile per analizzare il comportamento del modello, verificarne la coerenza e supportare le attività di controllo e conformità normativa.
Come presidiare bias e affidabilità dei modelli
I modelli di intelligenza artificiale possono risentire di bias presenti nei dati utilizzati per l’addestramento o nell’impostazione del modello stesso, con il rischio di produrre risultati distorti, inesatti o poco coerenti.
L’Explainable AI interviene efficacemente su tali bias, rendendo più semplice individuare le variabili che incidono maggiormente sugli output del modello, facilitando la verifica della loro affidabilità e l’individuazione di eventuali criticità.
Visto l’high risk che caratterizza il merito creditizio nell’AI Act si tratta di un fattore di notevole efficacia.
Monitoraggio delle anomalie, human oversight e canali di contestazione
Per garantire la piena affidabilità nel tempo, i sistemi di IA ad alto rischio richiedono misure di controllo continue. Ecco quelle principali applicate al credito:
- monitoraggio delle anomalie: la XAI consente di individuare tempestivamente i comportamenti “inattesi” del modello;
- human oversight: supporta la supervisione umana delle valutazioni automatizzate, così da intervenire quando necessario;
- canali di contestazione: permettono agli interessati di richiedere il riesame di una decisione automatizzata e di far valere le proprie osservazioni nei casi previsti dalla normativa. La XAI si rivela efficace in termini di compliance.
L’insieme di queste misure contribuisce a rendere i sistemi di IA nel credito più trasparenti, affidabili e conformi ai requisiti normativi, rafforzando la fiducia nei processi di valutazione automatizzata.