## Adapter un modèle à votre domaine

### Prompt vs RAG vs fine-tuning : ne pas confondre
C'est **l'arbitrage le plus mal compris** des projets IA :

- **Prompt engineering** — change *comment* on demande. Gratuit, immédiat.
- **RAG** — apporte de la **connaissance factuelle à jour**. Pour « que dit **ce
  document** ? ».
- **Fine-tuning** — change le **comportement et le style** du modèle. Pour « réponds
  **toujours** selon ce format / ce ton / ce vocabulaire métier ».
  ⚠️ **Le fine-tuning n'ajoute PAS de connaissance fiable** — c'est l'erreur classique.
  Pour la connaissance, c'est **RAG**.

### LoRA / QLoRA — le fine-tuning devenu accessible
Réentraîner **tous** les poids d'un modèle est hors de portée d'une institution. **LoRA**
n'entraîne que de **petites matrices additionnelles** (quelques % des paramètres) ; **QLoRA**
y ajoute la quantization — on peut alors affiner un modèle conséquent sur **un seul GPU**.

### Le nerf de la guerre : le jeu de données
La qualité du fine-tuning = qualité du **jeu d'exemples** interne (paires
instruction/réponse représentatives de vos cas). **Quelques centaines à quelques milliers**
d'exemples **soignés** valent mieux que des dizaines de milliers bruités.

> **📌 Cas concret — le bon outil pour le bon besoin**
> Une administration veut deux choses : (1) que l'assistant réponde **toujours** dans un
> **format de note administrative** (objet, références, corps, formule de politesse) ; (2)
> qu'il connaisse le contenu **à jour** des circulaires. Erreur fréquente : vouloir
> « fine-tuner les circulaires » → le modèle **invente** des références plausibles mais
> fausses. **Bonne réponse** : **RAG** pour le contenu des circulaires (toujours à jour,
> traçable), et un **léger fine-tuning LoRA** sur ~300 notes types pour le **format**. Chaque
> technique sur le besoin qu'elle sait traiter.

> **À retenir** — Par défaut : **prompt**, puis **RAG**. Réservez le **fine-tuning** au
> **style / format métier**, **jamais** comme substitut de connaissance. Et rappelez-vous :
> le **jeu de données** fait toute la différence.