GLM LLM Models

Avec 28,5 T tokens de données d'entraînement et des résultats de référence exceptionnels, GLM-5 est largement considéré comme le « plafond de l'open source ». Il rivalise avec les modèles commerciaux mondiaux de premier plan, voire les dépasse, en termes de capacité et de logique, fournissant une base puissante et performante pour l'écosystème mondial des développeurs.

HLE est un benchmark de haute difficulté conçu pour tester si l'IA possède des connaissances et un raisonnement humains de niveau expert. Le fait que GLM-5 obtienne le score le plus élevé signifie que sa maîtrise des sciences de pointe et de la logique complexe a atteint ou dépassé le niveau des principaux modèles propriétaires (closed-source).

BrowseComp est un classement de référence pour les capacités "Agentic", se concentrant sur la planification et l'exécution de tâches complexes dans des environnements web réels. Le score le plus élevé représente la capacité de GLM-5 à naviguer de manière autonome dans les navigateurs et à intégrer des informations inter-pages, le désignant comme le premier moteur de Web Agent.

Cette architecture fournit une "base de connaissances" massive de 744 milliards de paramètres tout en n'activant que ~40 milliards lors de l'inférence. Pour les développeurs, cela se traduit par une densité de connaissances et une profondeur de raisonnement de classe mondiale — surpassant les modèles denses comme Llama-3 405B — à une latence et un coût inférieurs.

Les paramètres totaux représentent la "capacité de connaissances" du modèle, 744B permettant un vaste stockage de faits mondiaux et de logique experte. Les paramètres actifs représentent la "puissance de calcul" utilisée par inférence. Grâce à l'architecture MoE, GLM-5 offre une intelligence de niveau 744B en utilisant seulement 40B de calcul, équilibrant une base de connaissances massive avec des performances rapides et rentables.

Le volume des données de pré-entraînement détermine l'« ampleur de la vision » d'un modèle. 28,5T de tokens constituent l'un des plus grands ensembles de données au monde (environ le double de celui de Llama-3), englobant des langues rares, des articles universitaires spécialisés et un vaste code de haute qualité. Cela garantit que GLM-5 possède une précision et une généralisation supérieures lors du traitement de requêtes complexes de longue traîne, de nuances interculturelles et de programmation système de bas niveau.