Prime Intellect a publié Prime Mega MoE — le passage arrière pour le noyau Mega MoE fusionné de DeepSeek. Selon MarkTechPost, cela rend le noyau entraînable.
Dans le titre de la publication, il est annoncé un accélération du passage direct de 3,11 fois, et dans la description—un accélération des étapes d’apprentissage de Qwen3 MoE dans prime-rl jusqu’à 34%. Ces chiffres se réfèrent à des formulations différentes et nécessitent une clarification de la méthodologie de comparaison.
Le sens pratique de la nouvelle est une éventuelle réduction du temps d’entraînement des modèles avec un mélange d’experts. Cependant, les informations disponibles sont présentées comme des métadonnées d’une publication indépendante, et non comme une documentation technique complète ou une vérification par la source primaire.
commentaire éditorial
Pourquoi c’est important
Probable conséquence — l’intérêt des développeurs MoE pour l’utilisation de Prime Mega MoE dans l’entraînement. Le prochain signal observé — la publication de tests techniques, de code ou de vérifications indépendantes par la source originale. Une grande incertitude est liée à l’absence dans le paquet d’une méthodologie complète et d’une vérification indépendante des indicateurs revendiqués.