Moonshot AI a mis les poids de Kimi K3 en ligne le 26 juillet, un jour avant la date qu’ils avaient eux-mêmes annoncée. 2,8 billions de paramètres. Le plus gros modèle open weights jamais publié. N’importe qui peut le télécharger.
Presque personne ne peut le faire tourner. Voilà le vrai sujet de cet article.
Ce qui s’est passé
Kimi K3 est un modèle MoE, mixture of experts. Sur ses 896 experts, 16 s’activent à chaque token, plus deux experts partagés en permanence. Ça donne environ 104 milliards de paramètres réellement mobilisés à chaque calcul. Le reste dort : prêt à servir, mais inactif la plupart du temps.
Sauf que la mémoire se fiche de savoir quels paramètres sont actifs. Il faut charger le tout. Les poids complets font environ 1,56 To sur Hugging Face. Ça n’entre dans aucun GPU seul, ni même dans un nœud standard à 8 GPU. Les estimations tournent autour de 64 GPU H100 ou B200 répartis sur huit serveurs pour héberger le modèle correctement.
Moonshot a limité les dégâts. Le modèle a été entraîné en tenant compte de la quantification dès le départ, pas quantifié après coup comme un pis-aller. Les poids sortent nativement en MXFP4, ce qui explique l’écart avec les 5 ou 6 To qu’exigerait du FP16 classique sur un modèle de cette taille. Sans ce travail en amont, on ne parlerait même pas d’auto-hébergement possible.
Un mot sur la licence, parce que tout le monde répète la même erreur : ce n’est pas de l’Apache 2.0. Moonshot publie sous sa propre licence, la « Kimi K3 License », qui ressemble au MIT mais avec deux seuils commerciaux. Toute entreprise qui revend de l’inférence en tant que service et dépasse 20 millions de dollars de revenu cumulé sur douze mois doit signer un accord séparé avec Moonshot. Au-delà de 100 millions d’utilisateurs actifs mensuels ou 20 millions de revenu mensuel, il faut afficher « Kimi K3 » visiblement dans l’interface. En dessous, c’est libre.
Pourquoi c’est important
Le calcul n’est plus le problème. Avec une centaine de milliards de paramètres réellement actifs à chaque token, selon les chiffres de Moonshot eux-mêmes, le coût par token reste bas. Le mur s’est déplacé ailleurs : c’est la bande passante mémoire qu’il faut pour garder 2,8 billions de paramètres accessibles en permanence.
On a de la puissance de calcul à revendre et rien pour poser le modèle dessus. C’est une contrainte qu’on croyait enterrée avec les mainframes des années 80.
Ce que cela change pour les entreprises
Pour une PME, une agence, un OBNL : pas grand-chose à court terme. Personne dans ce segment n’a de raison d’auto-héberger un modèle de cette taille, ni les moyens. La question ne se pose même pas.
Ce qui bouge, c’est l’offre en amont. Together AI et Modal proposaient un accès hébergé dès le jour de la sortie. Un modèle open weights de ce calibre met de la pression sur les fournisseurs propriétaires qui vendent des capacités comparables via API. À terme, ça devrait faire baisser les prix de l’inférence sur l’ensemble du marché.
L’accès démocratisé ne passe pas par le téléchargement des poids. Il passe par un fournisseur cloud qui a fait l’investissement matériel à votre place, et qui vous revend l’accès à l’heure ou au token. Comme avant.
Les opportunités
Pour les organisations qui ont déjà une infrastructure GPU sérieuse, grandes entreprises tech, fournisseurs cloud, labos de recherche, Kimi K3 est une option concrète. Un modèle de niveau frontière sans dépendre uniquement des API d’Anthropic ou d’OpenAI. Avec la possibilité de fine-tuner ou de faire tourner le modèle en environnement isolé, air-gapped, ce qu’aucune API commerciale ne permet.
Pour tous les autres, l’opportunité est indirecte. La pression concurrentielle entre modèles ouverts et fermés finit par se traduire en prix plus bas côté API. C’est réel, mais ça arrive filtré par un intermédiaire commercial.
Les risques ou limites
Le piège le plus courant : confondre open weights et accessible. Les deux se recoupaient à l’époque des modèles à quelques milliards de paramètres, qu’on pouvait faire tourner sur un poste de travail correct. Ils divergent complètement à l’échelle de K3.
La licence mérite d’être lue avant de bâtir quoi que ce soit dessus. Elle reste permissive pour un usage interne ou un produit sous les seuils mentionnés, mais toute entreprise qui prévoit de revendre de l’inférence à grande échelle a intérêt à vérifier les conditions plutôt qu’à supposer que « open weights » veut dire « sans contrainte ».
Et un modèle publié il y a trois jours n’a pas l’historique de fiabilité des modèles propriétaires établis. Les premiers retours d’usage restent épars et portent sur un volume négligeable comparé aux modèles établis. Pour de la production, ça se teste avant de s’engager, pas après.
Mon analyse
L’écart entre open weights et accessible va continuer à se creuser tant que la mémoire des GPU n’aura pas rattrapé la taille des modèles. On démocratise l’accès aux poids pendant que le matériel pour les faire tourner se concentre entre les mains d’un nombre restreint d’acteurs. C’est une ouverture réelle, mais partielle. Elle profite d’abord à ceux qui ont déjà le datacenter, avant de profiter, plus tard et de manière détournée, à tout le monde via les prix d’API.
Pour une agence ou une PME, retenez ceci : suivez ces annonces pour comprendre où va le marché de l’inférence. Le levier concret reste le choix du fournisseur cloud et de l’API, pas le téléchargement d’un fichier de 1,56 To que vous ne ferez jamais tourner.
Conclusion
Kimi K3 est un vrai jalon technique. Premier modèle open weights de classe 3 billions de paramètres, entraînement pensé pour la quantification dès le départ, architecture MoE qui limite le coût par token. Mais publier les poids ne résout pas le problème de fond. Sans l’infrastructure pour les charger, ce sont 1,56 To qu’on regarde sur Hugging Face sans pouvoir y toucher.
Vous souhaitez comprendre comment ces évolutions du marché de l’IA influencent vos choix technologiques et vos coûts d’infrastructure ? FD Stratégies peut vous accompagner dans la structuration de votre stack numérique et l’automatisation de vos processus.
