行业精选73°

国内AI模型架构创新领先但数据积累落后

帮大家总结下要点: 1. 国内预训练架构创新全球领先,但后训练数据积累落后海外约半年。 因为国内模型厂算力只有海外头部的十分之一左右,被逼出架构创新。 2. 后训练门槛比预训练低得多,核心竞争在...

精选理由

国内AI算力不足如何催生创新,腾讯混元组织架构调整带来什么启示

国内预训练架构创新全球领先,但后训练数据积累落后海外约半年。国内模型厂算力只有海外头部十分之一左右,被逼出架构创新。后训练门槛比预训练低得多,核心竞争在数据质量而非基础设施。腾讯混元案例显示,拆掉部门墙比单纯堆人更有效,整体研发效率提升。

图片来源 · 向阳乔木
原文 · 向阳乔木

帮大家总结下要点: 1. 国内预训练架构创新全球领先,但后训练数据积累落后海外约半年。 因为国内模型厂算力只有海外头部的十分之一左右,被逼出架构创新。 2. 后训练门槛比预训练低得多,核心竞争在...

帮大家总结下要点: 1. 国内预训练架构创新全球领先,但后训练数据积累落后海外约半年。 因为国内模型厂算力只有海外头部的十分之一左右,被逼出架构创新。 2. 后训练门槛比预训练低得多,核心竞争在数据质量,不在 infra。 3. 组织架构重要性超过算力储备。混元案例说明,拆掉部门墙比单纯堆人更有效。 腾讯把多模态模块从独立部门拆出来,和预训练体系合并,整体研发效率提上去了。 4. RSI 是下一个共识方向,做好 RSI 的前提是自己能训模型,现在训模型约等于造数据。 一个判断 AGI 的角度:模型能不能从零复刻自己。 如果能复刻一个超越自己的版本,RSI 就算实现了。 xiaoyuzhoufm.com/episode/6a7542… 💬 0 🔄 0 ❤️ 3 👀 346 📊 1 ⚡