华为 30B 端侧 MoE 模型落地 Mate XT 2

华为 30B 端侧 MoE 模型落地 Mate XT 2
华为 30B 端侧 MoE 模型落地 Mate XT 2

华为正式将一款总参数 30B、激活参数 2B 的端侧 MoE 大模型落地于新一代三折叠手机 Mate XT 2。华为称,这是“行业首个端侧 MoE 全模态大模型”。

该模型运行在新发布的麒麟 9050 Pro 上,由达芬奇架构 NPU 提供端侧算力。

这套 30B/2B 端侧模型早在 6 月已被预告。华为当时表示,模型针对麒麟芯片进行专门优化,并通过专家预测等技术降低内存占用、提高推理吞吐,计划于秋季进入麒麟芯片和手机。

© 版权声明
THE END
喜欢就支持一下吧
点赞5 分享
评论 抢沙发

请登录后发表评论

    暂无评论内容