填料
华为人工智能大模型盘古疑似抄袭阿里Qwen
作者:球王会怎么样 发布时间:2025-09-19 14:44:21
近来,一项发布于 GitHub 与 arXiv 的研讨引发业界热议:华为推出的盘古大模型(Pangu Pro MoE)被发现与阿里巴巴达摩院发布的通义千问 Qwen-2.5 14B 模型在参数结构上“惊人共同”。
该研讨运用最新的“LLM 指纹”技能,指出两者之间在注意力权重输出空间的相似性高达0.927,远高于其他干流模型组合。
作者提出了一种黑盒大模型指纹识别技能,即使无法访问模型权重,也能经过 API 输出(如 logits 或 top-k 概率)判别模型之间是不是存在归属或承继联系。
“盘古 Pangu Pro MoE 与 Qwen-2.5 14B 模型在注意力模块中呈现 极高相似性 ,而这在其他模型比照中从未呈现。”
该成果意味着,Pangu 很可能在 Qwen 的基础上进行练习或修正,而非“从零自主研制”。
QKV 误差剖析显现,盘古模型和 Qwen2.5-14B 在三种投影类型(Q、K、V)上均表现出惊人的相似性。
这两个模型都表现出简直相同的形式,尤其是在前期层的特征峰值以及随后的收敛行为方面。
鉴于 QKV 误差是 Qwen 1代至2.5代的一个明显规划特征,而大多数开源模型(包含 Qwen3)抛弃了这种办法,这一点特别的重要。
- 上一篇:河道清淤
- 下一篇:生物滤池单孔膜曝气器
相关资讯
-
2025-12-16
生物滤池单孔膜曝气器
-
2025-12-16
循环水型一般快滤池试验设备-曝气沉淀池试验设备_仿真污水处理设备
-
2025-12-16
小米汹涌OS官宣:已全面支撑微信谈天窗口收发实况相片
-
2025-12-16
小米汹涌OS 3正式版新一批机型推送!小米13等老旗舰总算等到了
-
2025-12-16
广发核心优选六个月持有混合(FOF)A
-
2025-12-16
兴业银行泉州分行
-
2025-12-16
东吴双动力混合A
