mélange d'experts
7 published articles
Grok 4.5
Le Grok 4.5 de Cursor a été construit par des agents IA, pas par des humains. C'est ça, la vraie histoire.
Le Grok 4.5 de Cursor est un modèle Mixture-of-Experts construit par apprentissage par renforcement dans des environnements créés par des agents IA antérieurs, et non par des humains. Il gère des tâches complexes et longues dans les domaines du génie logiciel, de la science des données, de la finance et du droit, et est disponible dès maintenant.
2026-07-10
Stratégie de portefeuille
Le Qwen d'Alibaba construit un modèle pour chaque tâche IA, pas un seul pour tous les dominer
L'équipe Qwen d'Alibaba Cloud a discrètement publié un modèle de monde agent MoE 35B, trois nouveaux modèles ASR et un rapport RL sur la génération d'images, révélant un pari stratégique sur l'étendue plutôt que le spectacle dans la course aux modèles IA.
2026-07-09
Google DeepMind
Gemma 4 de Google DeepMind transforme 26 milliards de paramètres en une machine de raisonnement qui tient sur un seul GPU
Le rapport technique de Gemma 4 de Google DeepMind détaille une famille de modèles à poids ouverts avec mélange d'experts, fenêtres de contexte d'un million de tokens et vision multimodale. La publication signale un mouvement stratégique pour apporter le raisonnement de niveau frontalier aux développeurs sans le coût des API propriétaires.
2026-07-09
Intelligence artificielle
La nouvelle bibliothèque megakernel d'Aleph Alpha réduit la latence d'inférence MoE de 200 %
Alpha-MoE fusionne plusieurs opérations en un seul noyau persistant pour obtenir jusqu'à 200 % de gains de vitesse d'inférence par rapport aux noyaux Triton dans vLLM et SGLang, ciblant les modèles MoE en précision FP8.
2026-07-09
Intelligence Artificielle
L'EMO d'Ai2 fait émerger une IA modulaire à partir des données, sans règles humaines
Le nouveau modèle MoE d'Ai2, EMO, utilise une méthode d'entraînement novatrice qui permet aux modules experts d'émerger naturellement des données, permettant une utilisation sélective des experts avec une perte de performance minimale. Le modèle égalise les performances des MoE standards sur les benchmarks tout en offrant une modularité considérablement améliorée.
2026-07-07
Analyse Approfondie
Aleph Alpha construit un modèle d'inférence théorique pour DeepSeek : Déduire les performances à partir des primitives matérielles
Aleph Alpha a créé un modèle d'inférence théorique pour DeepSeek v3 afin d'estimer le débit à partir des paramètres matériels, en analysant les compromis entre configurations GPU pour aider les praticiens à optimiser les performances et les coûts pour les grands modèles MoE.
2026-07-05
Optimisation de l'inférence LLM
Aleph Alpha construit un modèle d'inférence théorique pour décoder les performances de DeepSeek V3 à partir de primitives matérielles
Le modèle théorique d'Aleph Alpha prédit les performances d'inférence de DeepSeek V3 à partir des seuls paramètres matériels, révélant comment le nombre de GPU et la bande passante d'interconnexion déplacent le goulot d'étranglement entre le calcul, la mémoire et la communication.
2026-07-04