Agents IA et audit : conserver les preuves après un changement de modèle
Le 17 novembre, Microsoft a annoncé l’AI Transparency Initiative avec plus de 40 organisations. L’initiative vise à développer une approche ouverte de la transparence, de la sécurité et de la gouvernance des modèles et des agents. Pour une entreprise qui change de modèle, le test concret consiste à vérifier qu’elle peut toujours expliquer une décision passée et contrôler les actions du nouvel agent.
1. Ce que Microsoft annonce
Microsoft prévoit d’élargir sa participation à l’initiative de normalisation des agents du NIST et d’intégrer les résultats de ses travaux dans Microsoft AI, Foundry et Copilot. L’annonce décrit une démarche de normalisation et des intégrations prévues. Lors d’un achat, demandez un export réel pour le produit, la version et l’environnement envisagés, puis vérifiez que votre outil d’audit peut le lire.
2. Ce que cela change pour les entreprises belges et françaises
Une PME ou une ETI qui remplace un modèle pour maîtriser ses coûts ou rapprocher le traitement de ses données doit pouvoir relire les décisions prises sous l’ancienne version. Demandez au responsable du processus de reconstituer un dossier de test à partir d’un export, sans accès à la console du fournisseur. Une DSI ou une administration peut inscrire ce test de réversibilité dans ses critères de recette et vérifier qui peut accéder aux traces et combien de temps elles sont conservées.
3. Analyse Underside : suivre un dossier de bout en bout
Pour un RAG qui prépare une demande d’achat dans Odoo Entreprise, associez un identifiant de dossier à la version du modèle, aux références des documents consultés, à l’identité utilisée, à la décision du valideur et à l’identifiant du brouillon ERP. Conservez les références et les décisions nécessaires à l’audit. Réservez la collecte du texte intégral aux cas où elle est justifiée et contrôlez l’accès aux journaux. Pour un modèle local sur un Mac géré ou un service cloud, vérifiez où les traces sont stockées et qui peut les exporter.
4. Tester la continuité des preuves
Exécutez trois dossiers fictifs sous les deux versions : une demande acceptée, un document inaccessible et un brouillon refusé par le valideur. Vérifiez que chaque export permet d’identifier la version en service, de distinguer un refus d’une erreur technique et de retrouver le résultat enregistré dans Odoo. Si une décision historique devient impossible à retracer, reportez la bascule jusqu’à ce que l’ancienne preuve reste lisible et que le nouvel export soit exploitable.
Avant la bascule, faites examiner les exports des deux versions par une personne extérieure au projet. Elle doit pouvoir relier chaque proposition, refus et validation à son dossier.
Évaluer la traçabilité d’un agent IA