Les LLM reposent sur un principe étonnamment simple, prédire le mot suivant, mais leur passage à l'échelle a produit des capacités inattendues. Voici comment, étape par étape.
2.1Qu’est-ce qu’un LLM ?
Un grand modèle de langage (Large Language Model, LLM) est un réseau de neurones entraîné à prédire le mot (plus précisément le token) suivant dans une séquence de texte. C'est cette tâche simple en apparence, répétée sur des milliers de milliards de mots, qui fait émerger des capacités de conversation, de rédaction, de traduction, de synthèse ou de programmation.
2.2Le paysage en juin 2026
À la mi-2026, quatre modèles « de frontière » dominent le marché grand public et professionnel :
- GPT-5.5 (OpenAI), sorti en avril 2026 ;
- Claude Opus 4.8 (Anthropic), sorti le 28 mai 2026, en tête de plusieurs classements de raisonnement et de programmation ;
- Gemini 3.1 Pro (Google), particulièrement fort en raisonnement et analyse de données ;
- Grok 4.3 (xAI).
À côté de ces modèles propriétaires, un écosystème open-weight (dont les poids sont librement téléchargeables) gagne du terrain : Llama (Meta), Mistral (France), DeepSeek et Qwen (Chine). Ces modèles ouverts offrent un contrôle total sur le déploiement et la confidentialité, souvent à un coût bien inférieur.
2.3Comment ça marche, étape par étape
1. La tokenisation. Le texte est découpé en tokens (fragments de mots). Chaque token est converti en un vecteur de nombres appelé embedding, qui encode son sens dans un espace mathématique.
2. L'architecture Transformer et l'attention. Le mécanisme d'attention permet au modèle de pondérer l'importance de chaque mot par rapport aux autres dans le contexte. C'est ce qui lui permet de « comprendre » que dans « la banque de la rivière », le mot banque ne désigne pas un établissement financier.
3. Le pré-entraînement. Le modèle apprend en prédisant le token suivant sur un corpus gigantesque (web, livres, code). Au fil de milliards d'ajustements, il encode dans ses paramètres (souvent des centaines de milliards) une représentation statistique du langage et du monde.
4. L'alignement (fine-tuning et RLHF). Un modèle brut est puissant mais peu maniable. On l'affine ensuite pour qu'il suive des instructions et reste utile, honnête et inoffensif. La technique clé est le RLHF (apprentissage par renforcement à partir de retours humains) : des humains classent les réponses, et le modèle apprend à privilégier celles qui sont jugées meilleures.
5. L'inférence et le raisonnement. Quand vous posez une question, le modèle génère sa réponse token par token. Les modèles de raisonnement récents consacrent davantage de calcul à « réfléchir » avant de répondre (chain-of-thought, test-time compute), ce qui améliore nettement les tâches complexes.
Deux notions à connaître
La fenêtre de contexte : la quantité de texte que le modèle peut « garder en tête », désormais souvent supérieure à un million de tokens. Les hallucinations : le modèle peut produire des affirmations fausses avec aplomb, car il optimise la plausibilité statistique, non la vérité.
2.4Les world models : une autre voie ?
Tous les chercheurs ne pensent pas que les LLM mèneront à une intelligence comparable à celle des humains. Le plus connu des sceptiques est Yann LeCun, lauréat du prix Turing et ancien directeur scientifique de l'IA chez Meta. Pour lui, prédire le mot suivant ne suffit pas : une véritable intelligence doit comprendre comment fonctionne le monde physique, planifier et raisonner.
LeCun défend une architecture alternative, JEPA (Joint Embedding Predictive Architecture) : plutôt que de prédire chaque pixel ou chaque mot, le modèle apprend des représentations abstraites de la réalité, en ignorant le bruit non pertinent. En novembre 2025, il a quitté Meta pour fonder à Paris AMI Labs (Advanced Machine Intelligence), qui a levé environ 1 milliard de dollars en mars 2026, la plus grosse levée d'amorçage de l'histoire européenne.
Une démarche voisine est portée par Fei-Fei Li (pionnière d'ImageNet) avec sa startup World Labs, autour de l'« intelligence spatiale » : permettre aux machines de percevoir, raisonner et agir dans des environnements en trois dimensions.
À retenir
Les LLM reposent sur un principe simple, prédire le token suivant, mais leur passage à l'échelle a produit des capacités inattendues. Le grand débat du moment porte sur leurs limites : sont-ils une étape vers l'intelligence générale, ou une impasse qu'il faudra compléter par d'autres approches comme les world models ?
Sources
Best AI Models, June 2026 (felloai.com) ; WIRED & TechCrunch sur le départ de LeCun (2025-2026) ; AMI Labs raises $1.03B (buildfastwithai.com) ; documentation des éditeurs (OpenAI, Anthropic, Google, Mistral).
Vous avez fini ce module ?
Votre progression est sauvegardée sur cet appareil.