## Contrôler et auditer un système d'IA

C'est le cœur de métier des fonctions de contrôle — et la **signature** de cette formation.
Auditer une IA, c'est pouvoir **comprendre, vérifier et justifier** son fonctionnement.

### Les piliers de l'auditabilité
- **Traçabilité** — conserver, pour chaque interaction sensible : la **question**, les
  **sources** utilisées, la **réponse**, le **modèle** et sa **version**, l'**horodatage**.
  Sans trace, aucun audit possible.
- **Pistes d'audit** — pouvoir **rejouer** une décision a posteriori et reconstituer le
  raisonnement (quelles données ont mené à quelle réponse).
- **Indicateurs** — taux d'hallucination détecté, taux de « je ne sais pas », écarts de
  traitement entre profils, coûts. Ce qui se mesure se contrôle.

### Les points de contrôle clés
1. **Données** — d'où viennent-elles ? Sont-elles à jour, autorisées, de qualité ?
2. **Modèle** — quelle version ? validée comment ? changée quand ?
3. **Réponses** — sont-elles sourcées ? L'« incertitude » est-elle gérée ?
4. **Accès** — qui peut faire quoi ? Le cloisonnement des droits est-il respecté ?
5. **Incidents** — sont-ils détectés, journalisés, traités ?

### La grille d'audit
On formalise ces points dans une **grille** réutilisable : pour chaque système, on coche, on
note, on documente les écarts. C'est l'outil concret du contrôleur face à l'IA.

> **📌 Cas concret — auditer une décision contestée**
> Un usager conteste une décision où un assistant IA est intervenu. Grâce à la
> **traçabilité**, l'auditeur **rejoue** l'interaction : il voit la question, les **3 sources
> exactes** utilisées (avec versions), la réponse et le modèle. Il constate que **l'une des
> sources était périmée**. Conclusion documentée, écart identifié, correction demandée. **Sans
> traçabilité, ce serait parole contre parole** — situation inacceptable pour un contrôle.

> **À retenir** — Auditer une IA repose sur la **traçabilité** (tout rejouer), des **pistes
> d'audit**, des **indicateurs** mesurés, et des **points de contrôle** (données, modèle,
> réponses, accès, incidents) formalisés dans une **grille** réutilisable.