Gemma 3 4B

Gemma 3 4B est un LLM de Google publié le 12 mars 2025 sous licence Gemma, avec des poids ouverts et un usage commercial autorisé. Avec 4 milliards de paramètres, il occupe le segment des modèles compacts, à coût très bas, et propose une fenêtre de contexte longue de 131 072 tokens.

Gemma 3 4B est un LLM de Google publié le 12 mars 2025 sous licence Gemma, avec des poids ouverts et un usage commercial autorisé. Avec 4 milliards de paramètres, il occupe le segment des modèles compacts, à coût très bas, et propose une fenêtre de contexte longue de 131 072 tokens.

Son ancienneté d’environ un an est déjà importante à l’échelle de l’IA. Gemma 3 4B doit donc être lu comme un modèle de sa génération, avec des connaissances arrêtées au 1 août 2024, plutôt que comme une référence actuelle face aux modèles haut de gamme récents.

Caractéristiques

CaractéristiqueValeur
TypeGrand modèle de langage (LLM)
ÉditeurGoogle
LicenceGemma (open-weights, usage commercial autorisé)
Date de sortie12 mars 2025
Connaissances jusqu'à2024-08-01
Multimodaloui
Paramètres4 milliards
Fenêtre de contexte131 072 tokens
Modalités (entrée → sortie)text,image → text

Performances (benchmarks)

BenchmarkScoreRang (LLM)SourceFiabilité
Benchable : Ethics (Baseline)96,0 %202ᵉ / 248benchable✅ Mesuré
Benchable : Email Classification (Baseline)77,0 %246ᵉ / 254benchable✅ Mesuré
Benchable : General Knowledge (Baseline)69,8 %221ᵉ / 250benchable✅ Mesuré
Benchable : Mathematics (Baseline)68,0 %170ᵉ / 217benchable✅ Mesuré
Benchable : Coding (Baseline)66,0 %206ᵉ / 248benchable✅ Mesuré
Benchable : Reasoning (Baseline)36,0 %203ᵉ / 239benchable✅ Mesuré
Benchable : Instruction Following (Baseline)10,1 %222ᵉ / 252benchable✅ Mesuré
Benchable : Hallucinations (Baseline)2,0 %222ᵉ / 229benchable✅ Mesuré
IFEval90,2 %15ᵉ / 65llm-statsAuto-déclaré
GSM8k89,2 %27ᵉ / 47llm-statsAuto-déclaré
DocVQA75,8 %26ᵉ / 26llm-statsAuto-déclaré
MATH75,6 %27ᵉ / 70llm-statsAuto-déclaré
AI2D74,8 %31ᵉ / 32llm-statsAuto-déclaré
BIG-Bench Hard72,2 %10ᵉ / 20llm-statsAuto-déclaré
HumanEval71,3 %55ᵉ / 65llm-statsAuto-déclaré
Natural2Code70,3 %7ᵉ / 8llm-statsAuto-déclaré
FACTS Grounding70,1 %9ᵉ / 13llm-statsAuto-déclaré
ChartQA68,8 %24ᵉ / 24llm-statsAuto-déclaré
MBPP63,2 %28ᵉ / 33llm-statsAuto-déclaré
VQAv2 (val)62,4 %3ᵉ / 3llm-statsAuto-déclaré
TextVQA57,8 %15ᵉ / 15llm-statsAuto-déclaré
Global-MMLU-Lite54,5 %13ᵉ / 14llm-statsAuto-déclaré
InfoVQA50,0 %9ᵉ / 9llm-statsAuto-déclaré
MathVista-Mini50,0 %23ᵉ / 23llm-statsAuto-déclaré
MMMU (val)48,8 %11ᵉ / 11llm-statsAuto-déclaré
WMT24++46,8 %18ᵉ / 23llm-statsAuto-déclaré
MMLU-Pro43,6 %118ᵉ / 125llm-statsAuto-déclaré
HiddenMath43,0 %7ᵉ / 13llm-statsAuto-déclaré
Bird-SQL (dev)36,3 %6ᵉ / 7llm-statsAuto-déclaré
GPQA30,8 %200ᵉ / 213llm-statsAuto-déclaré
LiveCodeBench12,6 %71ᵉ / 72llm-statsAuto-déclaré
BIG-Bench Extra Hard11,0 %10ᵉ / 11llm-statsAuto-déclaré
ECLeKTic4,6 %4ᵉ / 8llm-statsAuto-déclaré
SimpleQA4,0 %42ᵉ / 45llm-statsAuto-déclaré

« Auto-déclaré » : score communiqué par l'éditeur, non rejoué indépendamment. « Mesuré » : évalué par un tiers (Epoch AI, LiveBench). Le rang est calculé parmi les LLM évalués sur le même benchmark.

Comment se situe-t-il ?

Le modèle (en orange) comparé aux meilleurs modèles « grand public » sur chaque dimension, et à ses voisins de classement.

Benchable : Ethics (Baseline)

Qwen2.5 72B Instruct100 %
▶ Gemma 3 4B96 %

Benchable : Email Classification (Baseline)

GPT-4 Turbo100 %
WizardLM-2 8x22B95 %
▶ Gemma 3 4B77 %

Tarifs

FournisseurEntrée / 1MSortie / 1MCache lecture / 1M
DeepInfra0,05 $0,1 $n.d.

Prix en dollars US par million de tokens.

Sa tarification se situe 97 % en dessous de la moyenne des LLM similaires, et 96,7 fois moins cher que les modèles frontières (Claude Fable 5, GPT-5.4, Gemini 3.1 Pro Preview).

Coût & vitesse agentiques

IndicateurValeur
Coût moyen par benchmark — Benchable0 $
Latence moyenne par benchmark — Benchable4 min 50 s

Coûts et durées réels mesurés en exécutant le modèle comme agent. PinchBench = un run complet de 147 tâches (harness OpenClaw) ; Benchable = moyenne par benchmark. Sources : PinchBench, Benchable.ai.

Notre analyse

Forces. À sa sortie, Gemma 3 4B figurait dans le haut du panier de sa génération sur GPQA, ce qui le situe comme un petit modèle compétitif pour son époque sur une évaluation exigeante de questions-réponses. Son résultat le plus solide dans les données Benchable concerne Ethics, avec une performance absolue élevée malgré un classement relatif modeste. Sa fenêtre de contexte de 131 072 tokens reste un atout concret pour traiter de longs documents ou conserver davantage d’historique dans une requête. Son autre force majeure est économique : son prix est très inférieur à celui des LLM similaires et environ 96.7 fois plus bas que celui des modèles frontière, tout en conservant une licence open-weights autorisant l’usage commercial.

Limites et points d'attention. Les classements Benchable placent Gemma 3 4B dans le bas de tableau sur plusieurs tâches pratiques, notamment Email Classification, General Knowledge, Coding et Reasoning. Le raisonnement est le point faible le plus net, avec un score bas et un rang défavorable parmi les modèles évalués. Son âge pèse aussi fortement : un an représente un cycle long pour les LLM, et ses performances sont aujourd’hui largement dépassées par les modèles récents. Il peut aussi être absent des catalogues actuels de l’éditeur ou moins mis en avant que les générations suivantes. Aucune donnée chiffrée fournie ne permet de documenter ici le compute d’entraînement, l’équivalent GPU H100 ou le coût d’entraînement.


Sources des données : LLM-Stats (llm-stats.com) · OpenRouter (openrouter.ai) · Benchable.ai (benchable.ai).