## Maîtriser les données et les risques propres à l'IA

### La souveraineté des données
Pour une administration, **où vivent les données** et **qui peut y accéder** sont des
questions de souveraineté. Trois niveaux : API publique (aucune maîtrise) → cloud privé →
**on-premise souverain** (maîtrise totale). Le bon niveau dépend de la **sensibilité** des
données (vu en détail en filière Architecte).

### Les risques spécifiques à gérer
- **Biais et discrimination** — l'IA peut reproduire des stéréotypes présents dans ses
  données d'entraînement, avec un impact sur des **décisions** (tri, orientation).
- **Transparence** — les personnes doivent savoir quand elles interagissent avec une IA et,
  pour les décisions importantes, **comprendre** comment elles sont prises.
- **Explicabilité** — pouvoir **justifier** une réponse ou une décision assistée par IA.
  Crucial dès qu'une décision a un effet sur un citoyen.
- **Responsabilité** — une décision reste **imputable à un humain / à l'institution**, jamais
  « à l'IA ». L'IA assiste, l'humain décide et répond.

### Le principe directeur pour le secteur public
Plus une décision **affecte un citoyen**, plus les exigences de transparence,
d'explicabilité et de **contrôle humain** sont fortes. Une IA peut **assister** une décision
administrative, mais le **dernier mot** et la **responsabilité** restent humains.

> **📌 Cas concret — le biais dans un tri de demandes**
> Un assistant aide à prioriser des demandes d'aide sociale. Si ses données reflètent des
> biais passés, il pourrait **défavoriser systématiquement** certains profils — une
> discrimination indirecte. La parade : **mesurer** les écarts de traitement, garder un
> **contrôle humain** sur les cas limites, et pouvoir **expliquer** chaque priorisation. Sans
> cela, l'institution prend un risque juridique et éthique majeur.

> **À retenir** — Au-delà de la **souveraineté** des données, gérez les risques propres à
> l'IA : **biais**, **transparence**, **explicabilité**, **responsabilité humaine**. Règle
> d'or du secteur public : plus une décision **touche un citoyen**, plus le **contrôle
> humain** doit être fort.