Le retour des grands modèles d'IA
Les petits modèles répondent aux questions. Les grands font le travail.
Après deux ans placés sous le signe du « small is smart », les agents IA rebattent les cartes. Dès lors que l'IA doit mener seule des tâches longues et en plusieurs étapes, la taille du modèle fait toute la différence. Et les organisations suisses peuvent désormais exploiter cette puissance sur une infrastructure souveraine.
Acte 1 (2023) : plus un LLM est grand, mieux c'est
En 2023, la recette était simple : appeler le plus grand modèle disponible via une API et tout construire autour. Aucune alternative ne faisait le poids. À la fin de l'année, OpenAI détenait à lui seul 50 % du marché des LLM en entreprise (Menlo Ventures).
Les cas d'usage étaient tout aussi simples : un chatbot, un résumé, un premier jet. Un prompt en entrée, une réponse en sortie, et un humain pour vérifier le résultat.
Acte 2 (2024-2025) : l'essor des petits modèles de langage
Puis les factures sont arrivées, et avec elles un nouveau discours. Distillation, pruning et données d'entraînement de meilleure qualité ont permis à des modèles compacts de boxer bien au-dessus de leur catégorie. Avec ses 14 milliards de paramètres, Phi-4 de Microsoft a battu GPT-4o-mini sur des benchmarks de mathématiques et de code. (Meta Intelligence).
Les arguments étaient solides :
- Coût et latence : pour de nombreuses tâches, un dixième à un cinquantième du coût de déploiement d'un grand modèle.
- Confidentialité et maîtrise : exécution en local, les données restent dans l'entreprise.
- « Good enough » : l'essentiel du NLP en entreprise se résume à de la classification, de l'extraction et du résumé.
Ce discours a atteint son apogée en 2025 avec le position paper de NVIDIA, selon lequel l'avenir de l'IA agentique appartiendrait aux petits modèles, et avec la prévision de Gartner d'un triplement des modèles spécialisés d'ici 2027 (HackerNoon, Medium). Les analystes continuent d'ailleurs de présenter 2026 comme l'année de l'efficience (Tech Monitor)
Acte 3 (2026) : le balancier revient vers les grands modèles
La valeur s'est déplacée des réponses vers le travail autonome, et le travail autonome favorise la taille. METR mesure la durée des tâches (exprimée en temps de travail d'un expert humain) qu'un agent IA est capable d'accomplir seul. Cet horizon double environ tous les quatre mois depuis 2023 (METR).
- Claude Opus 4.6: environ 12 heures de travail d'expert, avec une fiabilité de 50 % (AI 2027 Tracker).
- Claude Mythos: au moins 16 heures à 50 % de fiabilité, et un peu plus de 3 heures à 80 % (METR).
Every model at the top of that chart is a frontier-scale model.
The clearest signal comes from the open-weight world, the camp that once championed small. In six months it shipped the largest models ever released:
Tous les modèles en tête de ce classement sont des modèles de taille « frontier ».
Le signal le plus clair vient du monde open-weight, celui-là même qui défendait hier les petits modèles. En six mois, il a publié les plus grands modèles jamais mis à disposition :
| Model | Released | Total / active parameters |
|---|---|---|
| Kimi K3 (Moonshot AI) | juillet 2026 | 2.8T / ~100B |
| GLM-5.2 (Z.ai) | juin 2026 | ~744B / 40B |
| DeepSeek V4 Pro | avril 2026 | 1.6T / 49B |
B = milliards, T = milliers de milliards de paramètres.
GLM-5.2 s'est classé quatrième de l'Artificial Analysis Intelligence Index, devant tous les modèles fermés que l'on ne peut pas télécharger (Tech Insider). L'écart entre les modèles fermés et ouverts de pointe n'est plus que de trois à cinq mois (AI Weekly). Ce n'est pas avec un modèle de 7 milliards de paramètres que l'on comble un tel retard.
Ce que les modèles open-weight ont accompli en 2026
Inutile de recourir à un modèle fermé pour mesurer l'écart : tous les exemples ci-dessous proviennent de modèles open-weight.
- Cybersécurité offensive : au niveau des modèles de pointe à accès restreint. GLM-5.3 (Z.ai) a construit des exploits complets dans 50 des 410 tentatives d'ExploitBench, contre 56 pour Claude Mythos Preview d'Anthropic, dont l'accès est restreint ; les modèles précédents obtenaient des scores proches de zéro (AI Weekly). Sa variante plus légère, Flash, a transformé une faille publique de Chrome en chaîne d'exploitation fonctionnelle, avec 8 heures de travail du modèle et environ 20 dollars d'inférence. Le CAISI du NIST considère GLM-5.3 comme le modèle open-weight le plus performant à ce jour dans le domaine cyber (NIST).
- Une puce conçue en 48 heures. En un seul run autonome de 48 heures, Kimi K3 a conçu, optimisé et vérifié une puce à l'aide d'outils EDA open source (Kimi K3 report). Moonshot met aussi en avant un compilateur de type Triton développé de zéro, ainsi que la reproduction d'une étude d'astrophysique ramenée d'une à deux semaines de travail d'expert à environ deux heures (Alexandre Agius). Il s'agit toutefois de démonstrations du fournisseur.
- Une médaille d'or aux Olympiades pour 12 centimes. Lors d'un test indépendant sur les problèmes de l'IMO 2026, DeepSeek V4 Flash a obtenu 30/42, soit au-dessus du seuil de 29 points pour l'or et près de deux fois la médiane humaine, pour 0,12 dollar (Cline). Les démonstrations ont été évaluées par des modèles, et non par le jury officiel.
- Du code en conditions réelles. GLM-5.2 atteint 62,1 % sur SWE-bench Pro, devant GPT-5.5 et ses 58,6 % (DeepInfra).
Regardez les tailles : GLM-5.2 compte environ 744 milliards de paramètres, Kimi K3 en compte 2 800 milliards, et même la version « Flash » de DeepSeek en affiche 284 milliards. L'open source n'a pas rattrapé la frontière en misant sur les petits modèles, mais sur les grands. GLM-5.3 illustre aussi le revers de la médaille : Anthropic a supprimé ses mécanismes de refus pour quelques milliers de dollars de calcul. La responsabilité de la gouvernance incombe donc à celui qui l'héberge (Pasquale Pillitteri).
Pourquoi les petits modèles ne peuvent pas suivre
Le succès d'un agent est le produit de chacune des étapes qu'il franchit. Un modèle fiable à 99 % par étape ne mène à bien une tâche de 100 étapes qu'environ une fois sur trois. Des écarts minimes par étape, invisibles sur un benchmark à question unique, deviennent un gouffre dès qu'il s'agit d'un travail réel.
| Précision par étape | 10 étapes | 50 étapes | 100 étapes |
|---|---|---|---|
| 98% | 82% | 36% | 13% |
| 99% | 90% | 61% | 37% |
| 99.9% | 99% | 95% | 90% |
Research confirms the effect is real, and worse than simple arithmetic suggests:
- Larger models execute far more steps correctly, even when small models show near-perfect single-turn accuracy (Sinha et al.).
- Models degrade by conditioning on their own earlier mistakes; once an error enters the context, more follow (Sinha et al.).
- Across 23,392 agent episodes, success dropped from 76% on short tasks to 52% on very long ones, and model rankings reversed between the two (Tian Pan).
That last point is the trap. A small model that ties a big one on a leaderboard can still lose badly on a two-hour task. Benchmarks measure the flat start of the decay curve; production lives at the end of it.
The cost illusion
The right unit is cost per completed task, not cost per token. A model ten times cheaper per token that finishes 13% of long tasks instead of 61% is not a saving. Add the retries, the human who supervises, and the silent errors nobody catches until production.
The price argument is also eroding from the other side. Near-frontier open models such as DeepSeek V4 already run 10 to 13 times cheaper than the top closed APIs (Tech Insider). Buyers have noticed: by mid-2025, closed frontier models powered 87% of enterprise workloads and open-source adoption had flattened (BigDATAwire).
Where small models still belong
Small models are not dead; they are being demoted from brain to specialist. They remain the right tool for narrow, high-volume, well-defined tasks:
- Classification, routing and entity extraction
- On-device and offline use, from phones to industrial equipment
- Sub-tasks inside an agent, called by a larger orchestrator
That last pattern is becoming the enterprise standard. As AT&T's chief data officer puts it, large reasoning models run the control loop while fine-tuned small models execute dedicated steps (Mobile World Live). The architecture is tiered, and the top tier is big.
What this means for European and Swiss enterprises
The sovereignty question is no longer small and local versus big and American. Much of the small-model enthusiasm in Europe was really a sovereignty argument: a model you can run yourself beats a model you must send your data to. That trade-off made sense in 2024. It no longer does.
Frontier-class open weights now ship under MIT-style licenses. The constraint has moved from the model to the infrastructure: these models need multi-GPU nodes or clusters, not a server in the basement (Yotta Labs).
For a bank, a hospital or a canton, sovereign AI in 2026 means one thing: frontier-scale open models running on GPU capacity inside the country, under local law. Settling for a small model to stay sovereign means accepting an agent that fails most of the real jobs you give it.
Small models will keep winning tasks. Big models are winning the jobs.
Ready to move from AI answers to AI that gets the job done?
Choosing the right model is now a strategic decision, not just a technical one. EveryWare, the cloud specialist within ELCA Group, will help you identify where AI agents can create real value in your organisation, design the right mix of models, and run them securely on Swiss infrastructure.