智东西欧洲杯体育

作家 |  云鹏

剪辑 |  李水青

智东西8月5日音问，今天上昼，华为轮值董事长徐直军负责文告CANN全面开源怒放，就在昨日，华为还开源了三款盘古模子，参数鸿沟为1B、7B和718B。

▲Gitcode页面

其中参数鸿沟7180亿的盘古Ultra MoE模子最早在本年5月30日初度官宣，发布之初曾受到业内高度柔软和热议。

CANN的全称是Compute Architecture for Neural Networks（神经相聚打算架构），这是华为针对AI场景开导的异构打算架构，其不错提高华为自家昇腾AI芯片在惩办AI任务时的遵守。

徐直军称，Mind系列诈欺使能套件和器具链会全面开源，援救用户自界说开导。

此前华为昇腾CANN早在2024年就如故文告深度怒放，这次全面开源怒放是计谋的延续和补全。

回到华为刚刚开源的三款模子，它们离别是openPangu-Embedded-1B-model、openPangu-Ultra-MoE-718B-model、openPangu-Embedded-7B-model。

三款新开源模子下载地址：

https://ai.gitcode.com/ascend-tribe/openpangu-embedded-1b-model

https://ai.gitcode.com/ascend-tribe/openpangu-embedded-7b-model

https://ai.gitcode.com/ascend-tribe/openpangu-ultra-moe-718b-model

凭据Gitcode发布信息，openPangu-Embedded-1B基于昇腾NPU从零查验，模子结构为26层Dense架构，查验了约10T tokens，是一个为端侧竖立运行而联想的高效快想考言语模子，援救昇腾Atlas 200I A2。

通过昇腾Atlas 200I A2可用的模子架构联想、数据和查验计谋优化，openPangu-Embedded-1B据称可在保握端侧运行的条目下达到较高精度。

Gitcode页面给出了该模子测评实现，但并莫得横向类比：

7B版块模子类型疏导，测评实现如下：

openPangu-Ultra-MoE-718B雷同基于昇腾NPU从零查验，其类型为混杂众人言语模子，总参数目为718B，激活参数目为39B。openPangu-Ultra-MoE-718B查验了约19T tokens，具备快慢想考和会本事。

架构方面，openPangu-Ultra-MoE-718B选拔了Multi-head Latent Attention（MLA）、Multi-Token Prediction（MTP）、大零散比等架构，以及一些出奇联想：

·Depth-Scaled Sandwich-Norm和TinyInit：通过调遣层归一化结构与参数运滚动，进步查验清楚性。

·基于EP-Group的负载平衡计谋：通过优化负载平衡亏欠函数，改善众人特化遵守。

其测评实现如下：

本年6月30日，华为初度开源大模子，包括70亿个参数的粘稠模子“盘古Embedded 7B”、720亿个参数的混杂众人模子“盘古Pro MoE”。

其中基于4000颗昇腾NPU并行查验的盘古Pro MoE在MMLU、C-Eval、GSM8K等多种基准测试中，性能高出Qwen3-32B、GLM-Z1-32B等主流开源模子。其在昇腾800I A2上单卡推理婉曲性能可达1528 tokens/s，显耀优于同等鸿沟的320亿和720亿个参数的粘稠模子。

结语：华为AI软硬件生态连续发力

昇腾CANN手脚联贯华为AI硬件和表层诈欺开导生态的要津技艺，其进一步提高开源进度势必会有助于华为昇腾AI生态的成长，招引更多开导者加入。盘古大模子的进一步开源，侧面与之变成协同。

现时国内AI赛谈火热欧洲杯体育，AI芯片、AI大模子企业宽绰，在自主可控成为行业柔软焦点之一的大配景下，华为昇腾AI芯片+盘古大模子成为一条可行技艺旅途。