## Comment en est-on arrivé aux LLM ?

Pour concevoir des solutions d'IA, il faut comprendre **d'où viennent** ces modèles. Pas
besoin de mathématiques avancées : voici l'essentiel.

### Le Machine Learning : apprendre à partir d'exemples
Le **Machine Learning** (apprentissage automatique) renverse la programmation classique.
Au lieu d'écrire des règles (« si… alors… »), on **montre des exemples** à un algorithme,
qui en **déduit** lui-même les règles.
> Exemple : pour reconnaître un spam, on ne liste pas tous les mots interdits ; on montre
> des milliers d'e-mails étiquetés « spam / non spam », et le modèle apprend les motifs.

### Entraînement vs inférence — la distinction clé
- **Entraînement** — la phase (longue, coûteuse) où le modèle **apprend** sur d'énormes
  données. C'est fait **une fois**, par ceux qui créent le modèle.
- **Inférence** — la phase où l'on **utilise** le modèle entraîné pour obtenir une réponse.
  C'est ce qui se passe **à chaque requête** que vous envoyez. En tant qu'architecte, c'est
  surtout **l'inférence** que vous opérez et payez.

### Les Transformers : la rupture de 2017
Les LLM modernes reposent sur une architecture appelée **Transformer**. Son innovation,
le mécanisme d'**attention**, permet au modèle de **peser l'importance de chaque mot** par
rapport aux autres dans une phrase — d'où une compréhension du contexte bien supérieure.
C'est ce qui a rendu possibles ChatGPT et consorts.

> **📌 Cas concret — pourquoi cette distinction compte**
> Un chef de projet veut estimer le coût d'un assistant IA. Il croit qu'il faudra
> « entraîner un modèle » — opération à plusieurs millions. En réalité, pour 95 % des
> besoins, on **réutilise un modèle déjà entraîné** (open source ou via API) et on ne paie
> que l'**inférence**. Comprendre entraînement ≠ inférence fait passer le budget de
> « impossible » à « accessible ».

> **À retenir** — Le ML apprend **par l'exemple**. On distingue l'**entraînement** (créer le
> modèle, rare et coûteux) de l'**inférence** (l'utiliser, à chaque requête). Les **Transformers**
> et leur mécanisme d'**attention** sont à la base des LLM modernes.