华为麒麟 9050 系列搭载新一代达芬奇架构 NPU,业界首个 30B MoE 大模型入端
华为把 30B 参数的 MoE 模型直接塞进了手机芯片里跑,不联网不掉线,性能还提了 140%、功耗降 66%。和骁龙 8 系端侧 NPU 主流 7B-13B 模型路线相比,这个参数量激进得多。关注端侧 AI 和国产芯片的开发者都该看看。
IT之家原文
华为把 30B 参数的 MoE 模型直接塞进了手机芯片里跑,不联网不掉线,性能还提了 140%、功耗降 66%。和骁龙 8 系端侧 NPU 主流 7B-13B 模型路线相比,这个参数量激进得多。关注端侧 AI 和国产芯片的开发者都该看看。
华为把 30B MoE 模型塞进了手机端侧,内存占用不到 2.5G,麒麟 9050 Pro 的 NPU 性能还提了 140%,端侧 AI 这块值得看看具体参数。
今天这条早报信息密度很高:华为量产381款τ芯片,乐山大佛视频被证实是AI生成的,马斯克还给SpaceXAI改了名,几分钟刷完全天热点。
华为绕过EUV光刻机实现3nm级性能,关注国产芯片突破的科技从业者和手机发烧友值得一看,Mate 90的性能表现可能超出预期。