Registrazione delle Decisioni AI: Logging, Audit Trail e Obblighi AI Act
Punto chiave: L'AI Act europeo richiede che i sistemi AI ad alto rischio generino automaticamente log degli eventi che permettano di ricostruire le decisioni prese. La registrazione non è solo un requisito tecnico: è la precondizione per qualsiasi forma di responsabilità, audit e correzione.
Cos'è la Registrazione delle Decisioni AI?
La registrazione delle decisioni AI è il processo di cattura e conservazione sistematica delle informazioni rilevanti su come un sistema AI ha operato: quali dati ha ricevuto in input, quale output ha prodotto, con quale livello di confidenza, in quale momento, e — ove possibile — quali fattori hanno influenzato la decisione.
A differenza del logging tradizionale del software, il logging AI deve catturare non solo gli errori tecnici (crash, timeout, eccezioni) ma la logica decisionale: cosa ha "pesato" il modello e perché ha prodotto un determinato output. Questo è tecnicamente più complesso per i modelli di deep learning, dove la relazione input-output non è immediatamente tracciabile.
Come Funziona
Un sistema di registrazione delle decisioni AI include:
Log di input — Registrazione degli input ricevuti dal sistema (con eventuali anonimizzazioni richieste dal GDPR): timestamp, tipologia di utente o richiedente, valore degli input strutturati, identificatori dei documenti o dati usati.
Log di output — Registrazione dell'output prodotto: decisione o raccomandazione, punteggio di confidenza, classi o categorie assegnate, testo generato (o hash del testo per motivi di privacy).
Log di contesto — Versione del modello usato, versione dei dati di training, parametri di configurazione attivi al momento della decisione, eventuali tool o fonti esterne consultate.
Log di supervisione umana — Se un umano ha revisionato o modificato la decisione del modello, questo deve essere registrato: chi ha revisionato, quando, quale decisione ha preso, se ha concordato o modificato l'output dell'AI.
Log di anomalie — Casi in cui il sistema ha operato fuori dai parametri attesi: input inusuali, output a bassa confidenza, errori tecnici, tentativi di manipolazione.
Applicazioni Business
Banche italiane (AI Act + Banca d'Italia) — I sistemi di credit scoring devono registrare ogni decisione con sufficiente granularità da permettere ai supervisori di Banca d'Italia di verificare l'assenza di discriminazioni sistematiche. I log devono essere conservati almeno per la durata del rapporto creditizio, più il periodo di prescrizione applicabile.
ENI e la gestione delle risorse umane — Le decisioni automatizzate su promozioni, bonus o riorganizzazioni supportate dall'AI devono essere registrate. In caso di contestazione sindacale o legale, l'audit trail AI è il documento che dimostra (o smentisce) la correttezza del processo.
Pubblica Amministrazione (AGID) — I sistemi AI usati nella PA per assegnare benefici, gestire istanze o prendere decisioni amministrative devono produrre log che permettano il contraddittorio del cittadino — garantendo il diritto alla difesa sancito dalla Costituzione italiana.
Sistemi di recruiting — Le decisioni di screening candidati AI devono essere tracciabili: non basta sapere che il candidato è stato scartato, bisogna poter dimostrare che la decisione non era basata su fattori discriminatori. I log permettono audit retrospettivi su eventuali pattern di bias.
Requisiti Tecnici e di Conservazione
L'AI Act (Art. 12) specifica che i log devono:
- Essere generati automaticamente per tutta la durata del funzionamento del sistema
- Permettere la determinazione del periodo di funzionamento di ogni sessione
- Registrare i dati di input o il riferimento ai dati usati
- Permettere la verifica dell'identità delle persone coinvolte nella supervisione
- Essere conservati per un periodo minimo stabilito (orientativamente 5-10 anni per sistemi ad alto rischio)
Il GDPR impone però una tensione: i log possono contenere dati personali, e la conservazione prolungata deve essere giustificata da una base giuridica. La soluzione tipica è anonimizzare i log dopo un periodo iniziale mantenendo solo i metadati necessari per l'audit.