Des chercheurs de Stanford, Together AI, UIUC et Meta présentent HybridAgent, un agent qui alterne raisonnement en espace latent et actions textuelles. Les auteurs annoncent 10,4 % de performances en plus et jusqu’à 54,7 % de tokens en moins.
Le papier « Hybrid Reasoning Agents » propose de séparer deux gestes d’un agent LLM : réfléchir et agir. Les HybridAgents naviguent dynamiquement entre raisonnement latent et interaction textuelle, au sein d’un processus de génération unifié.
Le papier est référencé arXiv 2610.18861 et a été soumis le 13 octobre 2026, selon explainx.ai.
Il est disponible sur arXiv.
Le principe : penser en latent, agir en texte
L’agent ne passe pas systématiquement par des tokens de texte pour raisonner.
Il peut produire des pensées en espace latent, puis revenir au texte pour interagir avec ses outils.
Un composant nommé HybridLink fait le lien : c’est un adaptateur résiduel léger qui ramène les pensées latentes de la dernière couche cachée vers l’espace d’embedding d’entrée.
Les auteurs affirment qu’un LLM pré-entraîné standard peut être converti via ce pipeline de post-formation, sans entraînement from scratch, selon explainx.ai.
Une post-formation en deux étapes
La première étape, HybridSFT, stabilise la génération hybride avec outils.
La seconde, HybridRL, apprend à l’agent quand penser en latent et quand agir par texte. HybridRL repose sur une factorisation de politique hybride et sur un rejeu exact des rollouts, afin d’optimiser la politique sur des trajectoires hybrides.
Les gains annoncés
Le système est évalué à 3 échelles de modèle (4B, 8B et 14B) sur 11 benchmarks couvrant mathématiques, sciences, médecine, recherche et raisonnement agentique. Les auteurs instancient la méthode sur des modèles Qwen3-Base.
Les résultats annoncés par les auteurs :
- une amélioration des performances de 10,4 %
- une réduction de 35,5 % à 54,7 % des tokens
- une inférence 1,8 à 2,6 fois plus rapide
- des économies de coût de 2,7 à 3,7 fois
Ces chiffres viennent de l’évaluation des auteurs, avec des baselines choisies par eux, souligne explainx.ai, dont la lecture n’a porté que sur l’abstract et l’introduction.
Kenashe.ai note de son côté que l’abstract ne nomme ni les systèmes frontière ni les baselines précises de la comparaison.
Des pensées latentes lisibles ?
Le raisonnement latent a un défaut connu : il est difficile à relire. Les auteurs affirment que l’agent peut rendre ses pensées en mode latent sous forme de pseudo-texte lisible par un humain.
Ils écrivent :
CCTest nuance : les traces inspectables ne fournissent pas forcément une explication complète du calcul interne du modèle.Surprisingly, we find that HybridAgent can render its thoughts in latent mode as human-readable pseudo-text, making latent reasoning transparent and directly inspectable rather than opaque.
Le code est publié
Le dépôt GitHub est signé de Jiaru Zou, Yunzhe Qi, Sirui Chen, Federico Bianchi, Shang Zhu, Pan Lu, Jingrui He et James Zou, affiliés à Stanford, Together AI, UIUC et Meta.
Il contient le moteur de génération hybride avec outils Python et de recherche, les étapes HybridSFT et HybridRL, l’inférence par lots et l’inspecteur Interpretable Latent Mode.
Les checkpoints et données se chargent depuis un dossier local ou depuis le Hugging Face Hub.
Le ticket d’entrée matériel est élevé pour reproduire l’entraînement : le dépôt recommande 8 ou 16 GPU pour HybridSFT et 32 GPU (4 nœuds × 8) pour HybridRL.
Reply With Quote