« De la classe de GLM-5.3 » : Scantist vire un quart des experts, affiche 92,7 %, et ne fait pas passer le même test à l'original

En bref

• Depuis le 02/11/2026, Scantist publie une version de GLM-5.3 qui garde 192 experts sur 256 dans chaque couche, choisis par une recherche automatique, sans réentraînement. Elle pèse 179,86 Go, contre 238,58 Go pour la version compressée d'Unsloth dont elle est tirée.
• Selon Scantist, elle tient sur une seule NVIDIA B200, ou sur un Mac Studio avec au moins 192 Go de mémoire unifiée. Son guide et ses mesures ne portent que sur la B200 : rien n'est mesuré sur Mac.
• Ses scores, 92,7 % à HumanEval (des exercices de code) et 84,8 % à GPQA-Diamond (un QCM de sciences), n'ont pas de point de comparaison : dans son propre tableau, la version à 256 experts est marquée « non mesurée ».

Dimanche soir : qui a mis GLM-5.3 au régime ?

Carnet de bord. J'ouvre la fiche. Elle promet un modèle « de la classe de GLM-5.3 » sur une seule carte graphique. Non mais. GLM-5.3, c'est le gros modèle de Z.AI, que le labo présente comme le meilleur modèle à poids ouverts pour coder. Il compte 753 milliards de paramètres, ces réglages appris pendant l'entraînement, et ses poids pèsent environ 755 Go dans la version distribuée par Z.AI, selon notre calcul.

Premier réflexe : qui signe ? Pas Z.AI. Le dépôt appartient à Scantist, et sa fiche rend à chacun sa part : les poids viennent de Z.AI, la compression d'Unsloth, le choix des experts d'un autre projet, GLM-5.3-SLIM-E192. Scantist assemble. Au compteur de Hugging Face, le 08/11 vers 19:40 UTC : 4 938 téléchargements et 949 « j'aime ».

Le point de départ est déjà une version compressée de GLM-5.3, publiée par Unsloth en GGUF, un format de fichier pour modèles compressés. D'après Scantist, elle pèse 238,58 Go et ne rentre ni dans la mémoire d'une B200 ni dans celle d'un Mac de 192 Go. Alors Scantist coupe.

Un expert, c'est quoi, et pourquoi en virer 64 par couche ?

GLM-5.3 est un mélange d'experts. Dans 75 de ses couches de calcul, 256 petits sous-réseaux, les experts, attendent leur tour. Un aiguilleur, le routeur, en choisit 8 pour chaque token, chaque morceau de mot que le modèle lit ou écrit.

Imagine un jeu gacha. Tu as 256 persos dans ta box, tu n'en alignes que 8 par combat, et c'est le jeu qui choisit selon l'ennemi. Scantist a vidé 64 persos de chaque box. Si tu ne les sortais jamais, tu ne verras rien. Si c'était ton équipe spéciale boss de glace, tu vas le sentir.

Concrètement, chacune des 75 couches à experts garde les 192 désignés par une recherche d'architecture automatique ; les 64 autres disparaissent. Notre calcul : 4 800 experts retirés sur 19 200. Comment la recherche a-t-elle choisi ? La fiche renvoie au projet GLM-5.3-SLIM, chez autotrust. Sa page nous a répondu « 401 », accès refusé : on ne l'a pas lue. Méthode non détaillée, donc.

D'après la fiche, le reste est du travail propre. Les experts gardés sont copiés octet par octet, dans leur ordre d'origine. Tout le reste du modèle est identique au fichier d'Unsloth, sauf une couche annexe qui sert à générer plus vite, dite MTP, retirée elle aussi. Aucun réentraînement, aucun réétalonnage. Scantist dit avoir comparé ses 1 782 tenseurs, les blocs de nombres du fichier, à ceux de la source. Bilan : 563 milliards de paramètres au lieu de 753, et un fichier 24,6 % plus léger que celui d'Unsloth.

2,56 bits par poids : la version Game Boy de GLM-5.3

Deuxième régime, plus ancien : la quantification. Chaque poids du modèle est un nombre. Z.AI range presque tous les siens sur 8 bits. Avec 8 bits, tu peux écrire 256 valeurs différentes. Avec 2 bits, quatre. Avec 3, huit.

Le fichier de Scantist tombe à 2,56 bits par poids en moyenne. Une moyenne, parce que tout n'est pas traité pareil : les experts sont rangés dans les formats les plus serrés, surtout des familles IQ2 et IQ3, tandis que l'attention, la partie qui relie les mots entre eux, garde des formats plus larges. C'est un peu passer d'une photo en couleurs à une image en quatre teintes, façon console portable d'antan : on reconnaît le décor, on perd des nuances.

Sources : fiches de Scantist et de Z.AI, données de Hugging Face ; tailles de la version de Z.AI et capacité de la B200 : notre calcul.

De 755 à 180 Go, le modèle est environ 4,2 fois plus léger (notre calcul). Si tu le télécharges à 1 gigabit par seconde sans coupure, compte environ 24 minutes. Scantist le résume lui-même : deux pertes s'empilent, un quart des experts en moins et des poids à environ 2,6 bits.

Le trou : 92,7 %, mais comparé à quoi ?

Bon. Les scores. Scantist en publie trois, mesurés avec ses propres scripts sur une B200 :

• HumanEval : 164 petits exercices de programmation. Le modèle écrit un programme à partir d'une description, un script le lance contre les tests officiels. 92,7 %, soit 152 exercices réussis au premier essai, réflexion coupée.
• GPQA-Diamond : 198 questions à choix multiples de biologie, de physique et de chimie, écrites par des spécialistes pour être extrêmement difficiles. 84,8 %, soit 168 bonnes réponses, avec un effort de réflexion élevé et jusqu'à 65 536 tokens par réponse.
• MMLU : un grand test de connaissances sur 57 matières, des maths élémentaires au droit. 71,4 %, sur un extrait de 570 questions, dix par matière.

Attends. Dans la colonne d'à côté, celle de la version à 256 experts, il est écrit « non mesuré ». Et Scantist l'écrit en gras plus bas : il n'a fait tourner ni la version d'Unsloth à 256 experts, ni le modèle en pleine précision sur le même banc, donc le coût de la coupe n'est pas mesuré dans son dépôt. Et la fiche officielle de GLM-5.3 ne sert pas de repère : Scantist prévient que ses chiffres ne s'y comparent pas, et elle ne contient ni HumanEval ni GPQA-Diamond.

C'est un chrono de speedrun sans le temps de référence. Si la version entière faisait nettement mieux, la coupe a coûté cher. Si elle faisait pareil, elle n'a presque rien coûté. On ne sait pas lequel des deux, et Scantist ne l'a pas mesuré non plus : il l'écrit lui-même.

Le seul indice, Scantist le donne en une ligne : les tests avant/après du projet SLIM, sur le même choix d'experts, montrent une perte nette sur les questions de connaissances chinoises et une perte plus faible sur les questions de sciences, « attendez-vous à la même chose avec ce modèle ». Pour les chiffres, Scantist renvoie à la page d'autotrust, celle qui nous a fermé la porte. Mes persos de boss de glace, ils parlaient peut-être chinois.

Quand NVIDIA a fait passer DeepSeek dans un autre format 4 bits, sa fiche mettait l'original et la version convertie côte à côte, sur six tests. C'est cette colonne qui manque dans la fiche de Scantist.

Promis sur Mac, mesuré seulement sur une B200

Imagine la scène. Tu as un Mac Studio à 192 Go de mémoire ou plus sur ton bureau, ou tu en rêves, et tu lis qu'un modèle « de la classe de GLM-5.3 » va tenir dedans. Le guide de Scantist, lui, a tout fait tourner sur une seule B200, une carte graphique de centre de données dont la mémoire affichée fait environ 192 Go (notre calcul). Le Mac est cité dans la promesse, avec l'outil mlx-serve, mais je ne trouve dans la fiche ni mesure ni mode d'emploi pour lui.

Sur la B200, les poids occupent à eux seuls environ 167 Gio, soit près de 180 Go (notre calcul). Il reste de quoi garder environ 100 000 tokens de mémoire de travail, partagés entre 10 conversations au plus. Vitesse mesurée par Scantist : 34,5 tokens par seconde pour une seule conversation, à 10 % près d'un essai à l'autre. Une réponse de 500 tokens sortirait donc en 15 secondes environ (notre calcul). Leur passage complet de GPQA-Diamond, lui, a duré à peu près 13 h 30 : pour que la mémoire de travail ne déborde pas, le script a dû interrompre puis relancer des requêtes 275 fois.

Et sur un PC sans carte graphique ? Non plus. Avec la version de llama.cpp testée, le moteur ne sait pas faire tourner cette architecture sur le processeur seul, la version d'origine à 256 experts non plus.

Pas de B200 chez nous : tout ce que je te raconte vient de la fiche. Kira, elle, a déjà disséqué l'autre bout du bricolage, un autre mélange d'experts : Kimi K3 dans 8 Go de RAM, au prix de 1,7 To de disque.

La licence de GLM-5.3 : presque tout permis, sauf aux très gros services

Scantist publie sous la licence de GLM-5.3, aux mêmes conditions que le modèle d'origine. J'ai lu le texte de Z.AI en entier. Il est court.

Ce qu'il permet, gratuitement : utiliser, copier, modifier, publier, distribuer, vendre, affiner le modèle et en créer des dérivés.

Ce qu'il impose :

• garder la mention de copyright et le texte de la licence dans toutes les copies ;
• respecter les lois et règlements applicables ;
• une clause pour les géants, que je traduis fidèlement : « Si le Licencié ou l'une de ses sociétés affiliées exploite une activité de modèle en tant que service, et que le chiffre d'affaires cumulé du Licencié et de ses affiliés dépasse 10 milliards de dollars américains (ou l'équivalent dans d'autres devises) au total sur une période quelconque de 12 mois consécutifs, le Licencié doit passer l'examen de sécurité de Z.AI avant d'utiliser le Logiciel ou ses œuvres dérivées à quelque fin commerciale que ce soit. »

Le « modèle en tant que service », la licence le définit : donner à un tiers l'accès au modèle, par une API (une porte d'accès pour les logiciels) par exemple, avec un vrai contrôle sur les entrées, les réglages ou les données d'entraînement. Une appli qui embarque le modèle dans une fonction précise n'en est pas un. Le tout est fourni « tel quel », sans garantie. Le texte ne se présente nulle part comme une licence open source ; Hugging Face la range en « autre », et Z.AI parle de poids ouverts.

Ce qu'on ne sait pas encore

• Ce que la coupe fait perdre. Pas mesuré dans le dépôt de Scantist ; il renvoie aux tests avant/après du projet SLIM, sur une page qui nous a refusé l'accès.
• Comment les 64 experts ont été choisis. La fiche dit « recherche d'architecture », sans détail.
• Un avis extérieur. Aucun test indépendant de cette version dans nos sources.

Mon verdict : la coupe est du travail propre, vérifiée tenseur par tenseur selon Scantist, et faire tenir 563 milliards de paramètres sur une seule carte graphique, c'est du bricolage de haut vol. Mais « de la classe de GLM-5.3 » sans GLM-5.3 sur le même banc, c'est un slogan, pas une mesure. Et les chiffres de perte qu'il cite sont rangés derrière une page qui nous a répondu « 401 ».

Les mots à retenir

• Mélange d'experts : un modèle découpé en nombreux sous-réseaux, les experts, dont seuls quelques-uns travaillent pour chaque token.
• Routeur : la partie du modèle qui choisit quels experts travaillent pour un token donné.
• Paramètre : un des nombres réglés pendant l'entraînement. GLM-5.3 en a 753 milliards.
• Token : un morceau de mot, l'unité que lit et écrit un modèle.
• Quantification : ranger chaque poids sur moins de bits pour alléger le modèle, au prix d'un peu de précision.
• Bits par poids : la place prise par chaque nombre du modèle. 2 bits permettent 4 valeurs, 8 bits en permettent 256.
• GGUF : un format de fichier pour modèles compressés, lu notamment par llama.cpp, un programme qui fait tourner les modèles sur sa propre machine.
• Recherche d'architecture (NAS) : une recherche automatique de la forme du modèle ; pour GLM-5.3-SLIM, elle a fixé quels experts garder.
• MTP : une couche annexe de GLM-5.3 qui sert au décodage spéculatif, une méthode pour générer plus vite ; retirée dans la version de Scantist.
• B200 : une carte graphique NVIDIA pour centres de données, avec environ 192 Go de mémoire.
• Mémoire unifiée : le nom qu'Apple donne à la mémoire de ses Mac Studio.
• HumanEval : 164 exercices de programmation, notés en lançant le code écrit par le modèle contre des tests.
• GPQA-Diamond : 198 questions à choix multiples de biologie, physique et chimie, écrites pour être extrêmement difficiles.
• MMLU : un test de connaissances sur 57 matières, des maths élémentaires au droit.

Tous nos mots expliqués : le glossaire →

Fiche source

• Dépôt de Scantist : Scantist/GLM-5.3-SLIM-GGUF, créé le 02/11/2026, dernière modification le 03/11/2026, licence GLM-5.3.
• Modèle d'origine : zai-org/GLM-5.3, Z.AI, fiche créée le 25/08/2026, licence GLM-5.3.
• Version compressée de départ : unsloth/GLM-5.3-GGUF, dossier UD-IQ2_M.
• Projet de sélection des experts : autotrust/GLM-5.3-SLIM, réponse 401 le 08/11/2026, non lu.
• Lecture : 08/11/2026 vers 19:40 UTC.

Passages sources

Pages lues le 08/11/2026 vers 19:40 UTC. Dans les extraits de tableaux, les colonnes sont séparées par « / ».

Afficher les 13 sources

Réf.	Citation (langue originale)	URL
S1↑1↑2↑3↑4↑5↑6+25	"A GLM-5.3-class model that runs on a single NVIDIA B200, or on a Mac Studio with 192 GB or more of unified memory (with mlx-serve)." ; "At 179.9 GB it is 24.6% smaller than the 256-expert UD-IQ2_M (238.6 GB), which does not fit in the memory of one B200 or a 192 GB Mac." ; "every MoE layer keeps 192 of the original 256 routed experts. The model is built from Unsloth's UD-IQ2_M GGUF quantization." ; tableau : "routed experts per MoE layer / 256 / 192" ; "parameters / 753B / 563B" ; "file size / 238.58 GB (222.19 GiB) / 179.86 GB (167.51 GiB), -24.6%" ; "average bits per weight / (vide) / 2.56" ; "MTP (next-token prediction) layer / yes / removed" ; "HumanEval pass@1 (greedy, thinking off) / not measured / 92.7%" ; "GPQA-Diamond (T=1.0, reasoning_effort=high, 65,536 tokens) / not measured / 84.8%" ; "The 192-experts-per-layer architecture is the one found by the neural architecture search behind GLM-5.3-SLIM-E192. Each MoE layer (3-77) keeps the experts chosen by the search; the other 64 routed experts per layer are removed." ; "The kept experts are copied byte-for-byte, in their original order" ; "No retraining, no recalibration." ; "all other tensors (attention, DSA indexer, shared experts, dense layers 0-2, embeddings, output) are byte-identical to the source" ; "Do not use MTP speculative decoding with this model." ; "behind GLM-5.3-SLIM-E192" ; "the kept router rows (ffn_gate_inp, exp_probs_b) are bit-identical in all 75 MoE layers" ; "ffn_down_exps / 65.9 GiB / IQ3_XXS (71 layers), IQ4_XS (4)" ; "ffn_gate_exps, ffn_up_exps / 2 x 43.7 GiB / IQ2_XXS (74), IQ2_S (1)" ; "attn_q_b, attn_k_b, attn_v_b, attn_kv_a_mqa, indexer / 4.7 GiB / Q8_0" ; "Everything below was run on one NVIDIA B200 (183,359 MiB reported by nvidia-smi)" ; "The weights alone need about 167 GiB of GPU memory" ; "about 100K tokens of KV cache are left for up to 10 parallel requests" ; "generation, tok/s (total), f16 KV / 34.5" (1 séquence) ; "Single-sequence numbers vary by about +-10% between runs" ; "Our run took about 13.5 hours" ; "the client aborted and restarted requests 275 times" ; "At the tested commit the CPU backend cannot run this architecture; the original 256-expert UD-IQ2_M fails the same way." ; "All results below come from our own scripts against llama-server with the settings shown. They are not comparable to the numbers in the official GLM-5.3 card. We did not run the original 256-expert UD-IQ2_M or the full-precision model on the same harness, so the cost of the expert reduction itself is not measured here; for that, see the A/B results of GLM-5.3-SLIM-E192 (FP8) against GLM-5.3 (FP8)." ; "GPQA-Diamond (198 questions) / … / 84.8% (168/198)" ; "HumanEval (164), pass@1 / greedy, thinking off, max 2048 new tokens, one request at a time / 92.7% (152/164)" ; "MMLU, 570-question subset (10 per subject, seed 0) / … / 71.4% (407/570)" ; "answers were run against the official tests in a subprocess" ; "All 1,782 tensors were compared with the source UD-IQ2_M files" ; "Two losses stack: 25% of the routed experts are removed, and the weights are at ~2.6 bits per weight." ; "SLIM's A/B tests of the same expert set (FP8) show a clear loss on Chinese knowledge QA and a smaller loss on science QA; expect the same here." ; "Released under the GLM-5.3 License, the same terms as the base model. Weights by Z.ai; quantization and imatrix by Unsloth; expert selection from GLM-5.3-SLIM-E192"	https://huggingface.co/Scantist/GLM-5.3-SLIM-GGUF
S2↑1↑2↑3↑4	"id":"Scantist/GLM-5.3-SLIM-GGUF" ; "downloads":4938 ; "likes":949 ; "lastModified":"2026-11-03T01:48:48.000Z" ; "createdAt":"2026-11-02T13:11:14.000Z" ; "license:other" ; "license_name":"glm-5.3" ; "gguf":{"total":562687789632 ; "totalFileSize":179861261600	https://huggingface.co/api/models/Scantist/GLM-5.3-SLIM-GGUF
S3↑1↑2↑3↑4↑5	"GLM-5.3 is the most capable open-weights model for coding" ; tableau « Benchmark » : Terminal Bench 2.1, Terminal Bench 3.0, DeepSWE, NL2Repo, ProgramBench, FrontierSWE, SWE-Marathon, PostTrainBench, CyberGym, ExploitGym, ExploitBench, Toolathlon Verified, AutomationBench, Agents' Last Exam, HLE w/ Tools, GDPval-AA v2 (ni HumanEval ni GPQA-Diamond) ; "license: other" ; "license_name: glm-5.3"	https://huggingface.co/zai-org/GLM-5.3
S4↑1↑2↑3	"Permission is hereby granted, free of charge, to any person or entity […] to deal in the Software without restriction, including without limitation the rights to use, copy, modify, merge, publish, distribute, sublicense, and/or sell copies of the Software; to run, deploy, fine-tune, or otherwise modify the Software and create derivative works from it" ; "The above copyright notice and this permission notice shall be included in all copies or substantial portions of the Software. The Licensee's use of the Software must comply with applicable laws and regulations." ; "\"Model as a Service\" means giving a third party access to language model inference or fine-tuning (e.g., via API) in a manner that allows such third party to exercise meaningful control over the inputs, parameters, or training data. This does not include (a) end-user products with model capabilities solely embedded within specific features or harnesses, or (b) mere relaying of requests to models hosted by others." ; "If the Licensee or any of its affiliates operates a Model as a Service business, and the aggregate revenue of the Licensee and its affiliates exceeds 10 billion US dollars (or the equivalent in other currencies) in total over any consecutive 12 months, the Licensee must pass Z.AI's security review before using the Software or its derivative works for any commercial purpose." ; "PROVIDED ON AN \"AS IS\" BASIS, WITHOUT WARRANTY OF ANY KIND" ; "Copyright (c) 2026 Z.AI"	https://huggingface.co/zai-org/GLM-5.3/blob/main/LICENSE
S5↑1↑2↑3↑4↑5↑6	"safetensors":{"parameters":{"BF16":2103729152,"F8_E4M3":751226191872,"F32":19456},"total":753329940480} ; "num_experts_per_tok": 8 ; "quant_method": "fp8" ; "createdAt":"2026-08-25T06:42:50.000Z" ; "license:other" ; "downloads":2052042 ; "likes":2397	https://huggingface.co/api/models/zai-org/GLM-5.3
S6↑1↑2↑3↑4	Réponse de la page : "Invalid username or password." (HTTP 401, dépôt réservé ou privé ; non lu, non contourné)	https://huggingface.co/autotrust/GLM-5.3-SLIM
S7↑1↑2	"base_model: zai-org/GLM-5.3" ; "base_model_relation: quantized" ; "See Unsloth Dynamic 3.0 GGUFs for our quantization benchmarks." ; "license_name: glm-5.3"	https://huggingface.co/unsloth/GLM-5.3-GGUF
S8↑1↑2	"We present GPQA, a challenging dataset of 448 multiple-choice questions written by domain experts in biology, physics, and chemistry. We ensure that the questions are high-quality and extremely difficult"	https://arxiv.org/abs/2311.12022
S9↑1↑2	"We propose a new test to measure a text model's multitask accuracy. The test covers 57 tasks including elementary mathematics, US history, computer science, law, and more."	https://arxiv.org/abs/2009.03300
S10↑1↑2	"we introduce speculative decoding - an algorithm to sample from autoregressive models faster without any changes to the outputs"	https://arxiv.org/abs/2211.17192
S11↑	"On HumanEval, a new evaluation set we release to measure functional correctness for synthesizing programs from docstrings"	https://arxiv.org/abs/2107.03374
S12↑	"36GB unified memory" ; "96GB unified memory" ; "256GB unified memory" ; "512GB unified memory" (fiche technique du Mac Studio)	https://www.apple.com/mac-studio/specs/
R1↑1↑2↑3↑4↑5↑6+2	Notre calcul. Poids de Z.AI : 751 226 191 872 × 1 octet (FP8) + 2 103 729 152 × 2 octets (BF16) + 19 456 × 4 octets (F32) = 755 433 728 000 octets, environ 755 Go S5. Experts retirés : 64 × 75 couches (3 à 77) = 4 800 sur 256 × 75 = 19 200, soit 25 % S1. Rapport de taille : 755,43 / 179,86 = 4,2 S1S5. Téléchargement : 179 861 261 600 octets × 8 / 10⁹ bit/s = 1 439 s, environ 24 min S2. B200 : 183 359 Mio × 1 048 576 = 192,3 Go S1. Réponse de 500 tokens à 34,5 tokens/s = 14,5 s S1. Poids sur la B200 : 167 Gio × 1,0737 = 179,3 Go, près de 180 Go S1. Contrôle des 2,56 bits : 179 861 261 600 × 8 / 562 687 789 632 = 2,557 S2.	— (calcul maison)