Quad9 quitte la France le 24 novembre
Quatre autres lectures et Herbert face à vLLM et llama.cpp sur cinq GPU.
Vous ne recevez pas encore cette lettre ? Elle part chaque vendredi par email, en français ou en anglais. Inscrivez-vous pour la recevoir automatiquement.
Je m'inscrisBonjour,
Au programme cette semaine : le troisième article de la série sur Herbert, où le même compilateur passe sur un GPU, avec cinq lectures de la semaine.
Côté lectures : DeepSeek ouvre son moteur d'inférence, PHP, Node.js, Java et pip corrigés le même jour pendant qu'OpenCode se fait voler des clés, Quad9 qui quitte la France, Meta qui ouvre Muse Spark et Anthropic qui met 5 % de ses actions dans un fonds à but public.
L'article précédent montrait comment Herbert écrit son code machine au démarrage, pour le processeur qu'il a devant lui. Celui-ci pose la même question sur un GPU : Herbert écrit ses noyaux Vulkan pour la carte qu'il trouve, face à vLLM et llama.cpp, à format égal, sur cinq GPU grand public. Les cas où il est plus lent sont dans le texte, avec leurs chiffres. Les prédictions ont été écrites avant.
Herbert écrit ses noyaux Vulkan au démarrage, pour la carte qu'il a devant lui. Face à vLLM et llama.cpp, à format égal, sur cinq GPU grand public : où il est plus rapide, où il est plus lent, ce qui fait la différence, prédictions écrites avant.
Herbert écrit son code machine au démarrage, pour le modèle et pour le processeur qu'il a devant lui. Est-ce que ce principe tient sur un GPU, face aux moteurs GPU de référence ?
DeepSeek publie sous Apache-2.0 le moteur qui sert ses modèles en production. Sans cache, sans séparation des phases ni équilibrage de charge, pour un seul modèle et deux familles de puces : un outil d'inférence hors ligne, pas un service.
Le 21 octobre, PHP et Node.js corrigent des exécutions de code à distance trouvées par des agents IA, Java et pip retirent les certificats compromis d'eMudhra et LiteLLM était piégé sur PyPI. Trois jours plus tôt, OpenCode révélait le vol des clés d'API de 1,4 % de ses utilisateurs.
Condamnée le 21 octobre à bloquer des domaines de piratage sportif pour les seuls utilisateurs français, la fondation suisse derrière 9.9.9.9 dit ne pas pouvoir le faire et cessera de servir la France le 24 novembre. Administrations, banques et universités doivent changer de résolveur.
Le 15 octobre, Meta publie les poids de Muse Spark Open : 816 milliards de paramètres dont 42 actifs, un million de jetons de contexte, texte, image, audio et vidéo. Servi partout dès le premier jour, annoncé sur deux Mac Studio M5 Ultra, sans chiffre de débit publié.
Le 18 octobre, Anthropic annonce un fonds à but public doté de 5 % de ses actions, jusqu'à 20 % si la valorisation grimpe. Une filiale à 100 %, pas une fondation, dont la gouvernance reste à écrire avant l'introduction en bourse.
Cette lettre est partie par email à celles et ceux qui l'ont demandée. Toutes les lettres