Traçabilité des Décisions IA — Audit Trail et Explicabilité en Enterprise
Point clé : Une décision IA sans traçabilité ne peut pas être contestée, vérifiée ou améliorée. La traçabilité n'est pas seulement une obligation réglementaire — c'est l'infrastructure qui transforme un système IA opaque en un système de confiance.
Définition
La traçabilité des décisions IA est la capacité à reconstruire, pour toute décision produite par un système d'intelligence artificielle, l'ensemble des informations qui y ont contribué : les données d'entrée utilisées, le modèle appliqué, les étapes de raisonnement intermédiaires, les outils appelés, et les conditions de gouvernance en vigueur au moment de la décision.
Exigences Réglementaires
Règlement IA de l'UE
L'Article 12 impose aux systèmes IA à haut risque de journaliser automatiquement leurs événements opérationnels, de manière à permettre le contrôle post-déploiement et la détection des problèmes. Les logs doivent couvrir la période de fonctionnement du système et être accessibles aux autorités nationales de surveillance.
RGPD (Article 22 et 86)
Le droit à l'explication des décisions automatisées impose que les personnes affectées par une décision automatisée puissent obtenir des informations significatives sur la logique sous-jacente, la signification et les conséquences prévisibles du traitement.
Types de Traçabilité
Traçabilité d'Entrée
Quelles données ont été utilisées pour produire cette décision ? Les features d'un modèle de scoring, les documents récupérés par le RAG, les résultats d'outils appelés par un agent. Cette traçabilité permet de vérifier que les données sont correctes et à jour.
Traçabilité de Modèle
Quel modèle a produit cette décision ? Version, date d'entraînement, paramètres de configuration. Critique pour les audits post-incident : si un modèle a produit des décisions incorrectes, il faut pouvoir identifier toutes les décisions affectées.
Traçabilité de Processus
Quelles étapes de raisonnement ont mené à cette décision ? Pour les agents : la séquence d'actions, les appels d'outils, les décisions intermédiaires. Pour les modèles classiques : les features les plus influentes (SHAP values).
Traçabilité de Gouvernance
Quelles conditions de gouvernance étaient en vigueur ? L'approbation humaine a-t-elle eu lieu si elle était requise ? Qui était le responsable désigné du système à ce moment ? Ces métadonnées sont indispensables pour les audits de conformité.
Implémentation dans Knowlee
Knowlee génère automatiquement un audit trail complet pour chaque exécution d'agent : le transcript de session capture chaque appel d'outil MCP avec ses paramètres et résultats, le timestamp de chaque étape, l'identité du modèle utilisé, et les métadonnées de gouvernance déclarées dans le registre de jobs. Cet audit trail est persisté dans state/jobs/logs/ et lié au résultat produit.
FAQ
Q : La traçabilité et l'explicabilité sont-elles la même chose ? Non. La traçabilité documente ce qui s'est passé (inputs, étapes, sorties). L'explicabilité exprime ce qui s'est passé dans un langage compréhensible par un humain non expert. La traçabilité est la fondation de l'explicabilité.
Q : Comment gérer la traçabilité pour les modèles à grande échelle avec des millions de décisions par jour ? Via un stockage optimisé (compression, agrégation des logs routiniers, conservation complète uniquement pour les décisions à fort impact) et des index qui permettent la récupération rapide des logs d'une décision spécifique.
Q : Combien de temps faut-il conserver les logs de traçabilité ? Le Règlement IA recommande de conserver les logs pendant la période nécessaire aux contrôles post-déploiement (au minimum la durée d'utilisation du système). Pour les décisions avec effets durables (décisions de crédit, recrutement), des durées de rétention de 5 à 10 ans peuvent s'appliquer.