LFM2.5-24B-A2B : un modèle IA pour agents locaux
Découvrez LFM2.5-24B-A2B, un modèle ouvert conçu pour les agents IA locaux : performances, limites, matériel requis et mise en œuvre concrète.
LFM2.5-24B-A2B : des agents IA rapides, directement sur vos appareils
Faire tourner un agent d'intelligence artificielle localement, ce n'est pas juste une question de taille de modèle. Encore faut-il qu'il sache utiliser les bons outils, suivre des consignes sans partir dans tous les sens, gérer un contexte assez long et garder une vitesse d'exécution acceptable. C'est exactement le compromis que vise LFM2.5-24B-A2B, un modèle open présenté par Liquid AI et disponible sur Hugging Face.
L'idée centrale est simple : le modèle compte 24 milliards de paramètres au total, mais n'en active qu'environ 2 milliards par jeton grâce à une architecture à experts mélangés. Liquid AI annonce des performances solides sur des tâches d'agent et une inférence rapide sur du matériel local. Pour les entreprises qui veulent limiter les échanges avec des services distants, c'est un vrai sujet. Mais ça ne veut pas dire déploiement "gratuit", instantané, ou automatiquement conforme au RGPD.
Voici ce que le modèle promet, ce que montrent les résultats publiés, et comment juger s'il colle à votre cas d'usage.
Ce que propose LFM2.5-24B-A2B
LFM2.5-24B-A2B est pensé pour des usages où un modèle doit raisonner, suivre des instructions et interagir avec des outils. On n'est donc pas seulement sur "répondre à une question". L'objectif est de servir de base à des agents capables d'enchaîner plusieurs étapes : consulter une source, appeler une fonction, puis produire une sortie exploitable.
Une architecture à experts mélangés
Le modèle reprend l'architecture de LFM2-24B-A2B : 40 couches, 64 experts dans chaque bloc à experts mélangés, avec un routage vers quatre experts. Il combine aussi des convolutions courtes à portes et une attention groupée par requêtes (GQA). Dans ce type d'architecture, le total de paramètres ne raconte pas toute l'histoire : seuls certains experts sont mobilisés à chaque jeton. Ici, environ 2 milliards de paramètres sont actifs par jeton, sur un total de 24 milliards.
Le point recherché est clair : réduire le coût d'inférence à la génération, tout en gardant une capacité suffisante. Attention quand même : "activation partielle" ne veut pas dire "léger au point de tourner sur n'importe quel PC". Les poids complets doivent être chargés ou gérés par l'infrastructure d'inférence. En pratique, l'activation partielle peut alléger le travail réellement effectué à chaque étape de génération.
La fenêtre de contexte annoncée passe de 32 000 à 131 000 jetons. Le tokenizer passe aussi de 65 000 à 128 000 jetons, avec un objectif d'améliorer la tokenisation des langues non latines. Pour une entreprise européenne, c'est un bon signal pour le multilingue, mais il faut surtout vérifier ce que ça donne sur vos langues, vos documents et vos formulations réelles.
Un modèle entraîné pour le raisonnement et les outils
D'après Liquid AI, LFM2.5-24B-A2B vise le raisonnement : il produit une étape de raisonnement avant la réponse finale. Le préentraînement a été étendu d'environ 17 000 à 33 000 milliards de jetons. Ensuite, un entraînement intermédiaire ajoute 2 000 milliards de jetons avec un contexte de 32 000 jetons, en ciblant notamment le raisonnement, les mathématiques, le code, le suivi d'instructions et des données multilingues. Une phase supplémentaire de 300 milliards de jetons cible des données longues avec un contexte à 131 000 jetons.
Les appels d'outils et les échanges sur plusieurs tours sont intégrés aux phases d'entraînement. Le post-entraînement passe par cinq étapes : réglage fin supervisé, spécialisation de modèles enseignants, distillation sur des tâches non agentiques, distillation sur des tâches agentiques, puis apprentissage par renforcement dans des environnements d'agents comme OpenClaw, Hermes Agent, Pi et OpenCode.
Sur le plan opérationnel, l'enjeu est évident : un agent doit gérer plus qu'une réponse "au kilomètre". Il doit décider quand appeler un outil, produire un raisonnement cohérent autour de ce qu'il obtient, puis continuer l'interaction après le retour de l'outil. Et même si les résultats sont bons sur un banc d'essai, ça ne garantit pas que la bonne décision sera prise dans votre application. Les outils disponibles, les instructions système et les garde-fous restent déterminants.
Résultats : les points forts et les limites
Liquid AI compare LFM2.5-24B-A2B à Qwen3.6-35B-A3B, Gemma-4-26B-A4B-it et Nemotron-3.5-Lightning sur 16 bancs d'essai : usage d'outils, agents, connaissances, suivi d'instructions, mathématiques et code. Les évaluations sont faites avec vLLM, en utilisant les paramètres de génération recommandés pour chaque test.
| Banc d'essai | LFM2.5-24B-A2B | Qwen3.6-35B-A3B | Gemma-4-26B-A4B-it | Nemotron-3.5-Lightning |
|---|---|---|---|---|
| AutomationBench | 27,69 | 8,72 | 5,46 | 2,61 |
| BFCLv4 | 65,01 | 65,00 | 57,09 | 53,78 |
| ToolSandbox | 80,71 | 75,02 | 72,09 | 75,13 |
| LiveClaw | 48,09 | 38,19 | 41,25 | 37,72 |
| PinchBench | 83,18 | 89,93 | 77,12 | 84,20 |
| τ³-Bench Banking | 8,04 | 7,63 | 4,54 | 7,01 |
| WebArena Verified | 26,75 | 37,62 | 25,62 | 28,69 |
| GPQA Diamond | 74,42 | 83,69 | 74,90 | 72,42 |
| HLE | 7,40 | 7,69 | 8,57 | 5,65 |
| IFEval | 96,75 | 93,06 | 92,00 | 94,19 |
| IFBench | 74,69 | 64,21 | 47,44 | 71,67 |
| MATH-500 | 96,04 | 96,73 | 95,66 | 96,40 |
| SWE-Bench Verified (OpenCode) | 51,00 | 66,20 | 25,80 | 53,40 |
| SciCode | 32,71 | 37,35 | 35,42 | 27,78 |
On peut dégager des tendances, pas une vérité universelle. Le modèle arrive en tête ou au niveau des concurrents sur plusieurs tests liés aux outils, notamment AutomationBench, BFCLv4, ToolSandbox, LiveClaw et τ³-Bench Banking. Sur AutomationBench, son score dépasse plus de trois fois celui du modèle suivant dans ce tableau. Il obtient aussi de très bons résultats sur les trois tests de suivi d'instructions inclus dans la publication, avec un test (Multi-IF) qui n'apparaît pas dans le tableau résumé.
Les limites existent. Qwen3.6-35B-A3B fait mieux sur GPQA Diamond, WebArena Verified, SWE-Bench Verified et SciCode. Gemma prend le meilleur score sur HLE. Et les résultats sur AA-Omniscience sont négatifs pour plusieurs modèles : il faut les lire avec prudence, car la métrique ne raconte pas forcément la même histoire que la "fiabilité" au sens large.
Ce que ces résultats disent (vraiment) pour un projet
LFM2.5-24B-A2B est particulièrement pertinent si votre agent doit suivre des consignes précises et déclencher des appels d'outils. Il peut servir de base à un assistant qui trie des demandes, prépare une recherche interne ou prépare une action à valider. En revanche, si vos tâches dépendent fortement de connaissances à jour, de web search ou de code complexe, il vaut souvent mieux compléter avec une récupération documentaire (ou un outil spécialisé) plutôt que compter uniquement sur le modèle.
Autre point : les scores viennent du fabricant. Ils sont utiles pour filtrer des candidats, mais ils ne remplacent pas un test indépendant sur vos scénarios. Les bancs d'essai n'ont pas tous la même difficulté ni la même échelle. Avant de trancher, mesurez au minimum : le taux de réussite de vos tâches, les erreurs d'appel d'outils, la latence "de bout en bout" et le coût matériel. Ce sont ces mesures qui disent si le modèle tient dans un processus métier réel.
Vitesse, matériel et confidentialité
Liquid AI annonce 184 jetons générés par seconde sur un Apple M5 Max, et 114 jetons par seconde sur un Ryzen AI Max+ 395. La publication affirme aussi que ces chiffres sont jusqu'à 1,7 fois supérieurs à ceux du modèle comparé le plus rapide, tout en utilisant moins de mémoire que les autres modèles évalués. Sur un GPU NVIDIA B300, le débit annoncé dépasse 21 000 jetons de sortie par seconde en forte concurrence.
Mais ces chiffres décrivent des conditions précises (configuration, lot, quantification, longueur de contexte, moteur d'inférence). Ce ne sont ni une promesse de vitesse sur votre poste, ni une mesure directe de la latence perçue par un utilisateur. Une génération courte et une génération longue ne sollicitent pas le système pareil.
Local ne veut pas dire sans contraintes
Faire tourner le modèle chez vous peut réduire les données envoyées à un fournisseur distant. C'est utile pour des documents internes, des prototypes, ou des traitements soumis à des exigences de confidentialité. En Europe, cela peut aussi aider à mieux contrôler les flux au regard du RGPD. Mais ça ne suffit pas, à lui seul, à garantir la conformité.
Il faut regarder ce qui se passe réellement : journaux, sauvegardes, permissions, outils auxquels l'agent se connecte, et données renvoyées par ces outils. Un agent local peut aussi exposer des informations si les traces sont conservées sans contrôle, ou s'il est autorisé à lire trop large. La confidentialité dépend donc de l'architecture complète, pas seulement de l'emplacement des poids.
Le coût compte aussi. Le local exige de la mémoire, du matériel compatible, du temps d'intégration et une capacité à suivre les mises à jour. Pour un usage ponctuel ou des volumes faibles, une API hébergée peut rester plus simple et moins coûteuse. Pour un usage régulier avec des données sensibles, ou avec des contraintes de latence, le calcul local mérite une vraie évaluation.
Choisir le bon moteur d'inférence
Liquid AI indique une prise en charge dès la sortie avec plusieurs outils : llama.cpp, MLX, vLLM, SGLang et ONNX. Le moteur choisi impacte le matériel pris en charge, les options de quantification et la capacité à servir plusieurs utilisateurs simultanément. Le "plus rapide" sur un test isolé n'est pas forcément le plus simple à maintenir dans votre contexte.
Pour comparer sérieusement, gardez le même jeu de requêtes et les mêmes paramètres. Mesurez le temps jusqu'au premier jeton, le débit, la mémoire utilisée, et le comportement sous concurrence. Et pour un agent, ajoutez le temps passé dans les outils : optimiser le modèle ne compensera pas un pipeline où la recherche documentaire prend plusieurs secondes.
Tester le modèle et l'intégrer à un agent
LFM2.5-24B-A2B est disponible en poids ouverts sur Hugging Face. La publication indique une compatibilité avec Transformers à partir de la version 5.0.0. L'exemple ci-dessous montre un chargement et une génération "minimaux" : la mémoire disponible et votre matériel décideront si ça passe tel quel.
pip install -U transformersfrom transformers import AutoModelForCausalLM, AutoTokenizer, TextStreamer
model_id = 'LiquidAI/LFM2.5-24B-A2B'
model = AutoModelForCausalLM.from_pretrained(
model_id,
device_map='auto',
dtype='bfloat16',
)
tokenizer = AutoTokenizer.from_pretrained(model_id)
streamer = TextStreamer(tokenizer, skip_prompt=True, skip_special_tokens=True)
prompt = 'Qu'est-ce que C. elegans ?'
input_ids = tokenizer.apply_chat_template(
[{'role': 'user', 'content': prompt}],
add_generation_prompt=True,
return_tensors='pt',
tokenize=True,
)['input_ids'].to(model.device)
model.generate(
input_ids,
do_sample=True,
temperature=0.1,
top_k=50,
repetition_penalty=1.05,
max_new_tokens=512,
streamer=streamer,
)
Sur un GPU compatible, Liquid AI mentionne aussi l'utilisation possible de Flash Attention 2. Vérifiez la compatibilité de votre pilote et de votre environnement avant de l'activer : une option supposée plus rapide peut créer des galères si les versions ne suivent pas.
Le connecter à un agent
Une autre approche consiste à servir le modèle derrière une interface compatible avec l'API OpenAI, puis à configurer votre agent pour utiliser cette adresse locale. Les ports indiqués dans la publication sont 8080 pour llama.cpp et MLX, 8000 pour vLLM, 30000 pour SGLang et 1234 pour LM Studio. Ils peuvent varier selon votre configuration.
Voici un exemple de réglages pour Hermes Agent :
hermes config set model.provider custom
hermes config set model.base_url http://localhost:8080/v1
hermes config set model.default LFM2.5-24B-A2B
hermes config set model.context_length 131072
hermes config set model.api_mode chat_completions
hermes config set agent.tool_use_enforcement true
La connexion au serveur n'est qu'une première étape. Le plus important, c'est de définir précisément : quels outils l'agent peut utiliser, leurs paramètres, et quelles actions exigent une validation humaine. Si votre assistant est branché à un outil de gestion, par exemple, commencez par autoriser la lecture et la préparation d'une action, puis gardez une approbation explicite avant toute modification ou envoi externe.
Un parcours de test utile tient en quatre étapes :
- Constituez un petit jeu de tâches représentatives, avec des cas simples et des cas limites.
- Vérifiez les réponses, les appels d'outils et le comportement quand une information manque.
- Mesurez la latence, la mémoire et le taux d'échec sur le matériel réellement prévu.
- Déployez d'abord en lecture seule, puis élargissez les permissions si les résultats le justifient.
Vous pouvez consulter la fiche du modèle sur Hugging Face et l'article de lancement de Liquid AI pour les configurations, les poids et les détails des évaluations. Pour les équipes, la question n'est pas de "faire du local par principe" : c'est de vérifier si le contrôle gagné et les performances obtenues compensent la charge de maintenance supplémentaire.
Conclusion
LFM2.5-24B-A2B peut être un bon choix pour construire des agents qui doivent suivre des consignes, appeler des outils et fonctionner dans un environnement maîtrisé. Son architecture à experts mélangés, son contexte annoncé à 131 000 jetons et les résultats publiés en font un modèle intéressant à tester, surtout quand le calcul local apporte un avantage concret.
Reste à ne pas confondre vitesse annoncée et performance dans votre produit. Les résultats de Liquid AI sont un point de départ : le matériel, la qualité de vos données, les garde-fous et les coûts d'exploitation feront (vraiment) la différence. Commencez par un banc d'essai représentatif, mesurez les échecs et les ressources consommées, puis décidez si le déploiement local apporte assez de valeur pour justifier la maintenance. Consultez la fiche du modèle et lancez un prototype limité avant de lui confier des actions sensibles.