Kimi K3 dans 8 Go de RAM : c'est vrai, mais compte 1,7 To de disque et environ une heure pour cent mots

En bref

• Le dépôt kimi-k3-in-c tient sa promesse de mémoire : un pic mesuré de 8,24 Go de RAM, en C, sans carte graphique ni bibliothèque de calcul. Il comptait 11 215 étoiles sur GitHub le 07/11 à 22:10 UTC.
• Le prix se paie en disque. Le modèle pèse 1,56 To et le dépôt demande environ 1,7 To libres. Un SSD de 2 To coûtait de 319,95 € à 399,95 € le 07/11, selon le modèle, chez deux vendeurs en ligne.
• Et en temps. Sur sa station de 124 cœurs, l'auteur mesure 26,5 s par token avec 8 Go de RAM, 5,6 s avec 128 Go et plus. Pour une réponse d'environ 100 mots, notre calcul donne 66 minutes dans le premier cas, 14 dans le second.

Le post contre le dépôt

Le post pose quatre pièces sur la table. Je les ai reprises une par une, à la source.

La dernière ligne, le post ne la donne pas. Le dépôt, si. Dès son tableau d'ouverture.

Une étoile, sur GitHub, c'est un favori : un utilisateur qui marque le projet d'un clic. Le dépôt a été créé le 01/08/2026, et son code est sous licence Apache 2.0. Les poids du modèle ne sont pas dedans. Ils viennent de Moonshot AI, sous sa licence Kimi K3, qui impose un accord à part à toute entreprise vendant l'accès au modèle dont le chiffre d'affaires, filiales comprises, dépasse 20 millions de dollars sur 12 mois.

Comment 1,56 To tiennent dans 8 Go de RAM

Kimi K3 est un mélange d'experts. Ses couches, sauf la première, contiennent chacune 896 petits sous-réseaux, les experts, et n'en réveillent que 16 par token. Sur 2,78 T de paramètres, environ 104 milliards travaillent à chaque pas, soit 3,7 % du total.

L'auteur du dépôt en a tiré quatre décisions sur l'endroit où vivent les octets. Les experts arrivent déjà en 4 bits dans le fichier livré : 1,447 To, 93 % du fichier. Ils restent sur le disque et sont lus à la demande. L'essentiel du reste, le tronc, pèse 108,81 Go et sert à chaque token. Il est rangé une couche après l'autre dans un fichier de 109 Go, puis lu couche par couche, tel quel, sans compression.

Le plus beau est ailleurs. Sur douze budgets de mémoire, de 8 à 224 Go, le moteur sort exactement les mêmes tokens. Pour tenir ça au bit près, l'auteur a écrit ses propres routines de calcul. Une bibliothèque BLAS choisit elle-même l'ordre de ses additions, et cet ordre peut changer d'une version ou d'un fournisseur à l'autre. Le moteur entier pèse 176 Ko. C'est un travail d'horloger, et chaque mesure est publiée, bruit compris.

L'addition, ligne 1 : l'horloge

Un token, c'est un morceau de mot. Combien pour cent mots ? Google donne une règle pour ses modèles Gemini : 100 tokens font environ 60 à 80 mots anglais. Cent mots, c'est donc 125 à 167 tokens. Les deux textes anglais générés dans le dépôt tombent un peu plus bas, 51 mots pour 56 tokens. Je compte 150 tokens. C'est une estimation.

Je multiplie par le tableau de l'auteur. Il a mesuré sur une machine de 124 cœurs, avec un disque NVMe de 4,6 Go/s, la mémoire bridée à chaque palier.

Notre calcul, 150 tokens par réponse.

La démo du README le dit à sa façon, sur une autre machine de l'auteur : 228 Go de RAM bridés à 8 Go, et un disque plus lent, 3,2 Go/s. À la phrase « La capitale de la France est », le moteur répond « Paris », puis continue. Huit tokens en 261,5 secondes, pic à 8,24 Go. Quatre minutes et vingt et une secondes pour un nom de ville.

Ces minutes ne comptent pas la lecture de ta question, payée au premier token : 98 secondes pour une question de 17 tokens, à 128 Go, sur cette même machine.

Le dépôt publie aussi un essai sur un tout petit ordinateur, une carte Jetson Orin Nano Super de classe 8 Go, avec les experts sur un disque dur externe à plateaux. Un seul token, « Paris », en 15 min 49 s en moyenne sur quatre essais.

L'addition, ligne 2 : le disque

Le dépôt l'écrit en tête de ses prérequis : la vraie barrière, c'est le stockage. Le fichier du modèle pèse 1,56 To, en 96 morceaux. Il faut y ajouter le tronc réécrit, 109 Go. Total demandé : environ 1,7 To libres, de préférence sur un disque local rapide.

Le téléchargement se compte en heures plutôt qu'en minutes, prévient l'auteur. Notre calcul : à 1 Gbit/s tenu de bout en bout, 1,56 To prennent 3 h 28 min.

Puis vient la ligne qu'aucun post ne montre. À 8 Go, rien du tronc ne reste en mémoire : ses 108,81 Go repassent par le disque à chaque token, plus 25,83 Go d'experts : environ 135 Go par token, résume l'auteur. Pour cent mots, notre calcul donne environ 20 To lus. Près de treize fois le fichier entier de 1,56 To. Selon l'auteur, entre 41 et 61 % du temps d'une génération se passe à attendre le disque. Le même programme a tourné à 70,62 s par token sur un volume réseau, contre 31,71 s sur un NVMe local.

Si ton disque n'a pas 1,7 To de libre, voilà l'entrée du club :

Prix affichés le 07/11/2026 vers 22:13 UTC, en stock.

Je n'ai pas vérifié que ces deux SSD tiennent le débit du disque de l'auteur. Le tableau du temps, lui, en dépend.

Ce que le dépôt ne prétend pas

L'auteur est le premier à le dire. Il l'écrit en conclusion : « le but n'a jamais été la vitesse ». À 8 Go, c'est environ une demi-minute par token, et faire semblant du contraire serait idiot, ajoute-t-il.

Il liste aussi ce qu'il ne fait pas :

• aucune mesure de la qualité des réponses : ses chiffres mesurent le moteur, pas le modèle ;
• pas d'images : la partie vision de Kimi K3 n'est pas codée ;
• un tiers de bruit dans ses chronos : trois essais identiques ont donné de 14,78 à 20,14 s par token.

Et son outil de diagnostic ne propose le réglage « laptop » qu'à partir de 10 Go de mémoire libre. En dessous reste un réglage « ultra », qu'il présente comme une preuve de vie, pas comme un réglage pour discuter.

Pour qui veut seulement des réponses, Moonshot AI propose aussi Kimi K3 par API. White Rose a détaillé la facture de l'API de Kimi K3.1 Pro et épluché les poids de Kimi K3.1 Pro publiés sur Hugging Face.

Le verdict

J'ai le ticket. Le post a lu la première ligne : 8,24 Go. Elle est juste.

Les suivantes, le dépôt les imprime lui-même. 1,56 To de fichier. Environ 1,7 To de disque libre, soit au moins 319,95 € de SSD dans nos deux relevés si le tien est plein. 66 minutes pour cent mots à 8 Go, sur une machine de 124 cœurs, selon notre calcul.

Verdict : un exploit d'ingénierie, honnête sur ses limites. Une très mauvaise machine à discuter. La RAM est réglée. Reste à acheter du temps.

Ce qu'on ne sait pas encore

• La vitesse sur un vrai portable. Les paliers de 8 à 64 Go ont été mesurés sur une grosse machine dont la mémoire était bridée, avec un disque de 4,6 Go/s. Le dépôt ne publie aucun chrono pris sur un portable ; sa seule petite machine, la carte Jetson, lisait ses experts sur un disque dur à plateaux.
• La qualité. Aucun test de qualité des réponses dans le dépôt.
• Le chiffre réel en français. Notre règle de 150 tokens pour cent mots est une estimation ; le tokenizer de Kimi K3 n'a pas été mesuré sur du français.

Les mots à retenir

• Paramètre : un des nombres réglés pendant l'entraînement d'un modèle. Kimi K3 en a 2,78 T, soit 2 780 milliards.
• Token : un morceau de mot, l'unité que lit et écrit un modèle.
• RAM : la mémoire vive de l'ordinateur, rapide et limitée.
• SSD NVMe : un disque à mémoire flash, sans pièce mobile ; NVMe désigne le format rapide de ces disques.
• Mélange d'experts : un modèle découpé en nombreux sous-réseaux, dont seule une petite partie travaille pour chaque token.
• Tronc : dans ce dépôt, la partie du modèle qui sert à chaque token, hors experts.
• 4 bits : une façon compacte de stocker chaque poids, environ quatre fois plus légère que les 16 bits habituels.
• BLAS : une famille de bibliothèques de calcul toutes faites pour les multiplications de matrices.
• Mémoire bridée : une limite imposée par le système, qui empêche le programme d'utiliser plus que le budget annoncé.

Tous nos mots expliqués : le glossaire →

Fiche source

• Dépôt : FareedKhan-dev/kimi-k3-in-c, créé le 01/08/2026, licence Apache 2.0.
• Modèle : moonshotai/Kimi-K3, Moonshot AI, licence Kimi K3.
• Lecture : 07/11/2026, entre 22:10 et 22:21 UTC (prix des SSD relus à 22:21 UTC, inchangés).

Passages sources

Pages lues le 07/11/2026 (UTC). Le README est la version de la branche principale à cette date ; les données de mesure sont dans le dossier docs/data du dépôt.

Afficher les 17 sources

Réf.	Citation (langue originale)	URL
S1↑1↑2↑3↑4	"description": "A 2.78-trillion-parameter Kimi K3 running inference on a single CPU in 8.24 GB of RAM. Portable C99: no BLAS, no framework, no GPU." ; "stargazers_count": 11215 ; "created_at": "2026-08-01T09:29:38Z" ; "spdx_id": "Apache-2.0"	https://api.github.com/repos/FareedKhan-dev/kimi-k3-in-c
S2↑1↑2↑3↑4↑5↑6+15	"2.78T parameters" ; "1.56 TB checkpoint on disk" ; "8.24 GB peak RSS, measured" ; "176 KB the whole engine" ; "Kimi K3 inference in portable C99. No BLAS. No framework. No GPU." ; "8 tokens in 261.5 s, 32.69 s/token average / PEAK RSS for the whole run: 8.24 GB" ; "only 16 of its 896 experts per layer fire for any given token" ; "About 104 billion parameters are active for any given token, out of 2.78 trillion, which is 3.7 percent." ; "routed expert set : 82,432 x 17,547,264 = 1.447 TB" ; "which is 93 percent of the entire checkpoint" ; "108.81 GB is the per-layer dense trunk" ; "5,560 GB […] 1,560 GB […] 113.49 GB […] 8.24 GB" ; "675× reduction" ; "Every rung produced byte-identical output. Twelve budgets" ; "A BLAS library chooses its own blocking and reduction order, which can differ between versions, between vendors" ; "The gate is storage: the checkpoint is 1.56 TB." ; "~1.7 TB free / 1.56 TB checkpoint + 109 GB packed trunk, ideally on fast local disk" ; "1.56 TB, so hours rather than minutes." ; "shards : 96" ; "step 0 took 97.98 seconds and read 200.67 GB" (prompt of 17 tokens, --trunk-gb 110 --cache-gb 13) ; "The point was never the speed. At 8 GB it takes about half a minute per token, and pretending otherwise would be silly." ; "This repository contains no model weights" ; "Every measurement here comes from one workstation: a two-socket AMD EPYC 7763 with 124 cores and no SMT, 228 GB of RAM" ; "O_DIRECT cold : 3.2 GB/s" ; "The trunk is 108.81 GB re-read in full on every token. The experts are 25.83 GB per token." ; R4 : "Kelsey and I am a certified teacher. I have experience tutoring after school at the middle school level. I have taught" (24 tokens) ; "routing each token through a small subset of its total parameters, which keeps inference fast and cheap relative to its size. The model is trained on a large corpus of" (32 tokens)	https://github.com/FareedKhan-dev/kimi-k3-in-c (README brut : https://raw.githubusercontent.com/FareedKhan-dev/kimi-k3-in-c/main/README.md)
S3↑1↑2↑3↑4↑5↑6	"Workstation: 124 cores […] 720 GB RAM, 4.6 GB/s local NVMe. Note the disk is faster than the published box's 3.2 GB/s" ; "Laptop-class rows are enforced with a cgroup MemoryMax cap on the workstation NVMe" ; "8 GB (laptop preset) / 26.5 / 8.73 GB" ; "32 GB / 24.2 / 19.5 GB" ; "64 GB / 19.8 / 51.6 GB" ; "128+ GB (trunk resident) / 5.59 / 179 GB" ; "the first token of any run also pays a one-time load and is higher"	https://github.com/FareedKhan-dev/kimi-k3-in-c/blob/main/docs/data/speed-2026-08.md
S4↑1↑2↑3↑4	"the trunk is re-read in full every token (108.81 GB) while only ~25.8 GB of experts are touched" ; "run 1 14.7760 / 2 14.6655 / 3 20.1408" ; "A third of the measurement is noise." ; "These are engine measurements […] They are not quality benchmarks." ; memory-ladder.tsv : "8 0 0.0 0.49 28 32.69 […] 25.83 8.24" (pin_layers 0, trunk_hit 0.0)	https://github.com/FareedKhan-dev/kimi-k3-in-c/tree/main/docs/data
S5↑	"Between 40.9 and 60.6 percent of wall clock is spent waiting on the disk, at every rung." ; "A run at 31.71 s/token on local NVMe and a run at 70.62 on a network volume differ by 2.2 times"	https://github.com/FareedKhan-dev/kimi-k3-in-c
S6↑	"elif [ "$AVAIL_GB" -ge 10 ]; then PRESET=laptop; EXPECT="~27 s/token"" ; "The ultra preset […] is a proof-of-life path for 8 GB-class machines, not an interactive-speed preset"	https://github.com/FareedKhan-dev/kimi-k3-in-c
S7↑1↑2↑3	"No vision. MoonViT-V2 is fully specified in config.json at 27 layers, and has zero code here." ; "No quality benchmark. No perplexity, no task eval."	https://github.com/FareedKhan-dev/kimi-k3-in-c
S8↑1↑2↑3	"It is a 2.8T-parameter model" ; "You can access Kimi K3's API on https://platform.kimi.ai by selecting kimi-k3" ; "Activated Parameters 104B" ; "MXFP4 weights / MXFP8 activations (quantization-aware training)" ; API : "total": 2779931837184	https://huggingface.co/moonshotai/Kimi-K3
S9↑1↑2	"If the Licensee or any of its affiliates operates a Model as a Service business, and the aggregate revenue of the Licensee and its affiliates exceeds 20 million US dollars […] over any consecutive 12 months, the Licensee must enter into a separate agreement with Moonshot AI"	https://huggingface.co/moonshotai/Kimi-K3/blob/main/LICENSE
S10↑	"For Gemini models, a token is equivalent to about 4 characters. 100 tokens is equal to about 60-80 English words."	https://ai.google.dev/gemini-api/docs/tokens
S11↑1↑2	LDLC, « Kingston SSD NV3 2 To » : "price": "319.95", "priceCurrency": "EUR", "itemCondition": "NewCondition", "availability": "InStock" ; « Samsung SSD 990 EVO Plus M.2 PCIe NVMe 2 To » : "price": "399.95" (même offre)	https://www.ldlc.com/fiche/PB00630082.html ; https://www.ldlc.com/fiche/PB00653108.html
S12↑1↑2	Materiel.net, « Kingston NV3 - 2 To » : "price": "319.95", "priceCurrency": "EUR", "itemCondition": "NewCondition", "availability": "InStock" ; « Samsung SSD 990 EVO Plus - 2 To » : "price": "399.95" (même offre)	https://www.materiel.net/produit/202407270003.html ; https://www.materiel.net/produit/202409160083.html
S13↑1↑2↑3	TUNING : "The engine moves ~135 GB per token at low budgets." ; Jetson : "one-token inference with the complete official Kimi K3 text checkpoint on an 8 GB-class Jetson" ; "it is not an interactive-performance claim" ; "Mean inference time was 949.4358 seconds (15m 49.4s)" ; "official checkpoint and routed experts on […] a rotating external HDD" ; CHANGELOG 1.1.0 : "Verified with four full runs on a Jetson Orin Nano Super against the released checkpoint"	https://github.com/FareedKhan-dev/kimi-k3-in-c/blob/main/docs/TUNING.md ; https://github.com/FareedKhan-dev/kimi-k3-in-c/tree/main/docs/results/jetson-orin-nano-super ; https://github.com/FareedKhan-dev/kimi-k3-in-c/blob/main/CHANGELOG.md
R1↑1↑2↑3↑4	Notre calcul : 100 mots = 150 tokens (estimation, entre 125 et 167 selon S10, 110 selon R4). 8 Go : 150 × 26,5 = 3 975 s = 66 min 15 s ; ×100 = 110 h 25 min (4,6 jours). 32 Go : 150 × 24,2 = 3 630 s = 60 min 30 s ; ×100 = 100 h 50 min. 64 Go : 150 × 19,8 = 2 970 s = 49 min 30 s ; ×100 = 82 h 30 min. 128 Go et plus : 150 × 5,59 = 838,5 s = 13 min 58 s ; ×100 = 23 h 17 min 30 s	— (calcul maison)
R2↑	Notre calcul : 1 560 936 091 448 octets × 8 / 10⁹ bits par seconde = 12 487 s = 3 h 28 min, à 1 Gbit/s constant	— (calcul maison, d'après S2)
R3↑	Notre calcul : à 8 Go (0 couche du tronc gardée en mémoire), (108,81 + 25,83) Go = 134,64 Go lus par token (l'auteur : "~135 GB per token at low budgets" S13) ; × 150 tokens = 20 196 Go, environ 20 To ; 20,2 / 1,56 = 12,9	— (calcul maison, d'après S2S4S13)
R4↑	Notre comptage : 21 mots pour 24 tokens et 30 mots pour 32 tokens (recompté par la vérification), soit 51 mots pour 56 tokens, environ 110 tokens pour 100 mots (deux textes anglais générés dans le README)	— (calcul maison, d'après S2)