【通义千问开源首个MoE模型】!!!今天受到全网的关注度非常高，那么具体的是什么情况呢，下面大家可以一起来看看具体都是怎么回事吧！

【通义千问开源首个MoE模型】 据阿里通义千问官微，通义千问团队开源首个MoE模型，名为Qwen1.5-MoE-A2.7B。

它仅有27亿个激活参数，但性能可与当前公认最先进的70亿参数模型（Mistral 7B、Qwen1.5-7B等）相媲美。

以上就是关于【通义千问开源首个MoE模型】的相关消息了，希望对大家有所帮助！