基于LLaMA却改张量名，李开复公司大模型引争议，官方回应来了

原文来源：机器之心

图片来源：由无界 AI生成

有研究者发现，李开复「零一万物」公司的 Yi-34B 模型基本上采用了 LLaMA 的架构，只是重命名了两个张量。对此，「零一万物」给出了官方回应。

前段时间，开源大模型领域迎来了一个新的模型 —— 上下文窗口大小突破 200k，能一次处理 40 万汉字的「Yi」。

这个大模型由创新工场董事长兼 CE0 李开复创立的大模型公司「零一万物」构建，包括了 Yi-6B 和 Yi-34B 两个版本。

根据 Hugging Face 英文开源社区平台和 C-Eval 中文评测榜单，Yi-34B 推出时取得了多项 SOTA 国际最佳性能指标认可，成为全球开源大模型「双料冠军」，击败了 LLaMA2 和 Falcon 等开源竞品。

Yi-34B 也成为当时唯一成功登顶 Hugging Face 全球开源模型排行榜的国产模型，称「全球最强开源模型」。

该模型在发布后引起了国内外很多研究者、开发者的关注。

但最近，有研究者发现，Yi-34B 模型基本上采用了 LLaMA 的架构，只是重命名了两个张量。

原贴链接：https://news.ycombinator.com/item?id=38258015

帖子还指出：

Yi-34B 的代码实际上是对 LLaMA 代码的一次重构，但看似并未作出任何实质性改变。这个模型明显是基于原始 Apache 2.0 版的 LLaMA 文件进行的编辑，但却未提及 LLaMA： 

Yi vs LLaMA 代码对比。代码链接：https://www.diffchecker.com/bJTqkvmQ/

此外，这些代码更改并没有通过 Pull Request 的方式提交到 transformers 项目中，而是以外部代码的形式附加上去，这可能存在安全风险或不被框架所支持。HuggingFace 排行榜甚至不会对这个上下文窗口最高可达 200K 的模型进行基准测试，因为它没有自定义代码策略。

他们声称这是 32K 模型，但它被配置为 4K 模型，没有 RoPE 伸缩配置，也没有解释如何伸缩（注：零一万物之前表示模型本身在 4K 的序列上进行训练，但是在推理阶段可以扩展到 32K）。目前，关于其微调数据的信息为零。他们也没有提供复现他们的基准测试的说明，包括可疑的 MMLU 高分。

任何一个在 AI 领域工作过一段时间的人都不会对此视而不见。这是虚假宣传？违反许可证规定？实际基准作弊？谁在乎呢？换下一篇论文，或者在这种情况下，拿走所有风险投资的钱。Yi 至少高于标准，因为它是基础模型，而且性能确实不错。

而在数天前，在零一万物 Huggingface 社区中，有开发者同样指出：

据我们了解，除了两个张量被重命名之外，Yi 完全使用了 LLaMA 的架构。(input_layernorm, post_attention_layernorm)

讨论中，有网友表示：如果他们确切使用 Meta LLaMA 架构、代码库和所有相关资源，则需要遵守 LLaMA 规定的许可协议。

为了符合 LLaMA 的开源协议，有位开发者将其名字改回并重新放到了 huggingface 上：

01-ai/Yi-34B，张量已重命名以匹配标准 LLaMA 模型代码。相关链接：https://huggingface.co/chargoddard/Yi-34B-LLaMA

看到这里，我们也就知道前几天，从阿里离职创业的贾扬清在朋友圈提到的是哪家企业了。