11:45
官方账号arXiv cs.AI@Simeng Sun, Roger Waleffe
73°
推荐理由：新方法让31.5B参数模型训练省1/3时间，性能还更好，适合大规模MoE模型训练。
模型训练
共 51 条相关 AI 资讯
8月31日
11:45
研究人员提出通信高效专家混合模型(CE-MoE)，采用异构层模式解耦令牌混合和通道混合深度。在2B至31.5B参数规模测试中，CE-MoE模型在匹配总参数和激活参数的情况下，减少了33.3%的GPU训练时间，同时保持验证损失和下游基准性能与全MoE基线相当。31.5B规模时，CE-MoE还提升了平均下游分数和推理吞吐量。
8月30日
21:18
21:18
Thomas Wolf@Thom_Wolf
Thomas Wolf@Thom_Wolf精选
推荐理由：Thom Wolf指出，大模型透明度不足，下一代模型将学习OpenAI与Hugging Face事件，可能影响AI行为和对齐。
8月28日
18:08
18:08
官方账号arXiv cs.AI@Dewu Zheng, Ruizhe Ye, Yanlin Wang, Yang Ye, Hongyu Zhang, Ensheng Shi, Xilin Liu, Yuchi Ma, Jianxing Yu, Zibin Zheng
精选73°
推荐理由：SWE-Prime用10%数据训练就能超越全数据效果，解决了软件工程领域模型训练数据质量低的问题。
8月26日
01:39
01:39
Fireworks AI@FireworksAI_HQ
Fireworks AI@FireworksAI_HQ推荐理由：想了解如何训练并使用Frontier模型？这篇报道提供了实用信息。
8月25日
11:22
11:22
官方账号arXiv cs.LG@Erin Craig, Yiling Huang, Snigdha Panigrahi
推荐理由：这篇论文提出了局部蒸馏方法，对于需要可解释性的AI模型来说是个重要进展，值得一读。
8月24日
09:08
09:08
官方账号Andrew Ng@AndrewYNg
官方账号Andrew Ng@AndrewYNg精选
推荐理由：Percy Liang的实验室以开放的方式发布了Marin 535B-A23B模型，展示了AI训练的开放性，值得关注。
01:04
01:04
Stanford AI Lab@StanfordAILab
Stanford AI Lab@StanfordAILab推荐理由：StanfordAILab发布了Marin 535B-A23B模型的训练消息，这是他们迄今为止最大的训练项目，值得关注。
8月22日
01:09
01:09官方账号Andrew Ng@AndrewYNg
官方账号Andrew Ng@AndrewYNg推荐理由：Andrew Ng分享构建和部署AI应用的关键技能，实用技巧和最佳实践，提升AI应用开发能力，不容错过！
8月21日
11:05
11:05
官方账号arXiv cs.AI@Christos Koutsiaris
推荐理由：Daedalus-150M模型在CPU上实现了高效推理，与同类全注意力模型相比，在速度上具有显著优势，同时保持了相似的质量指标，值得一试。
10:42
10:42
官方账号arXiv cs.AI@Qian Kou, Xiaofeng Shi, Xiaosong Qiu, Hua Zhou
推荐理由：IAR框架在文档知识内化方面表现卓越，值得研究学习。
8月20日
07:36
07:36
宝玉@dotey
宝玉@dotey精选
推荐理由：智谱这GLM-5.3后训练分享，讲了如何提升编码能力，比之前的GLM-5.2效果更强。
02:35
02:35Thomas Wolf@Thom_Wolf
Thomas Wolf@Thom_Wolf精选
推荐理由：你看看GLM - 5.3这发布，把模型参数和训练规律讲得很透，跟以前那些大模型比，它在参数分配上更合理，以后搞类似项目能参考下。
8月19日
11:51
11:51
爱范儿@彭海星
推荐理由：OpenAI突然暂停训练新模型，看来AI越聪明真的越危险，这事儿值得关注。
02:10
02:10
AI Engineer@aiDotEngineer
AI Engineer@aiDotEngineer72°
推荐理由：听听 Krea 怎么处理训练数据和降低视频生成成本。
8月17日
23:25
23:25
官方账号Nathan Lambert: Interconnects@Nathan Lambert
官方账号Nathan Lambert: Interconnects@Nathan Lambert推荐理由：英伟达喊话开发者：自己训模型，别给Anthropic/OpenAI送钱。这篇把背后的商业算盘讲明白了。
8月15日
19:59
19:59
官方一手Sebastian Raschka: Ahead of AI@Sebastian Raschka, PhD
官方一手Sebastian Raschka: Ahead of AI@Sebastian Raschka, PhD推荐理由：从零搭AI文本检测器的完整教程，含数据集、训练、部署和RLVR，适合想亲手走一遍流程的朋友。
02:49
02:49Fireworks AI@FireworksAI_HQ
Fireworks AI@FireworksAI_HQ推荐理由：想亲手训练个模型？9月2日纽约有Fireworks和微软办的动手工作坊，带上笔记本去，结束就能带走能放上Azure的定制模型。
8月11日
16:30
16:30IT之家（博客/媒体）
推荐理由：闲鱼上有人把 RTX 4080 显存翻倍到 32GB，卖一万多，适合跑模型但没保修，想捡漏得先想清楚。
10:03
10:03
Naval@naval
Naval@naval推荐理由：Naval 发推说，真做软件的人得自己训模型。一句话引来 1.5 万多次浏览，够直接。
8月9日
13:00
13:00
Suhail@Suhail
Suhail@Suhail推荐理由：Suhail发了条推，说模型训练不到满意性能，团队士气就上不来。虽然0评论0赞，但挺扎心。
8月7日
21:00
21:00
官方账号Decoder@Maximilian Schreiner
推荐理由：字节在搞10万亿参数的模型，比Kimi K3大三倍，这下有好戏看了。
8月6日
21:49
21:49IT之家（博客/媒体）
78°
推荐理由：字节要训超5万亿参数的模型，比阿里Qwen 3.8-Max和月之暗面K3都大，张一鸣表态反对蒸馏。
8月5日
01:31
01:31
官方账号Cursor@cursor_ai
官方账号Cursor@cursor_ai推荐理由：Cursor把自己做MoE模型的流程写成了博客，想自己训练混合专家模型的小团队可以直接照着搞。
8月4日
02:08
02:08官方一手Meta Engineering Blog（博客/媒体）
推荐理由：Meta把广告推荐模型训到LLM规模，效率翻倍，MFU到20-25%，算力扩4倍。值得做推荐训练的看看。
7月22日
15:58
15:58IT之家（博客/媒体）
81°
推荐理由：马斯克要用SpaceX的火箭数据喂Grok，新模型2万亿参数比4.5翻倍，这波操作有点生猛。
7月21日
16:42
16:42
shao__meng@shao__meng
shao__meng@shao__meng82°
推荐理由：马斯克把SpaceX的工程数据喂给2T参数的Grok新模型，工程能力要起飞了，OpenAI和Anthropic可没这资源。
7月19日
00:03
00:03
@koltregaskes@koltregaskes
@koltregaskes@koltregaskes推荐理由：xAI的Grok 4.6下周完成训练，号称又快又便宜，还比Kimi K3强，预计9月中旬发布，可以关注。
7月14日
05:54
05:54
Amjad Masad@amasad
Amjad Masad@amasad推荐理由：想实时监控你训练的模型进度？试试这个思路，像早期vibe编码一样，可以自己调参玩。
7月9日
02:03
02:03
Harrison Chase@hwchase17
Harrison Chase@hwchase17推荐理由：Harvey在招人组建自己的模型训练团队，要把法律AI做到模型层，已有数千GPU和独特后训练数据，能提升开源模型到前沿水平，适合想做大型模型训练的AI研究员。
6月30日
23:40
23:40官方账号Decoder@Maximilian Schreiner
76°
推荐理由：美团搞了个1.6万亿参数的大模型LongCat-2.0，全程用国产芯片，没碰Nvidia，性能还很强。想看看中国芯片能不能撑起大模型？这篇聊得清楚。
05:49
05:49@koltregaskes@koltregaskes
@koltregaskes@koltregaskes72°
推荐理由：x平台爆料Grok 2T开始训练，预计8月上线，比之前传的3T规模小一点。想蹲新模型的话可以关注这个时间点。
6月29日
13:51
13:51
官方账号Jasper AI@heyjasperai
官方账号Jasper AI@heyjasperai推荐理由：看看Jasper怎么用Hugging Face当MONET的数据后台，对做大模型训练数据管道的团队很有启发。
13:49
13:49
官方账号Microsoft AI@MicrosoftAI
官方账号Microsoft AI@MicrosoftAI推荐理由：微软AI分享了他们训练编码模型的实战细节，从评估到安全都有，做编程助手的人值得看看。
13:48
13:48
岚叔@lufzzliz
岚叔@lufzzliz推荐理由：这位网友对Grok 4.5很有信心，还调侃xAI显卡太多不如自己用。看看民间对xAI新模型的态度。
6月19日
07:11
07:11
官方账号OpenAI@OpenAI
官方账号OpenAI@OpenAI推荐理由：OpenAI发现用一点额外数据就能让模型在超多对齐测试里变好，覆盖欺骗、安全、健康等方面，挺牛的。
07:10
07:10官方账号OpenAI@OpenAI
官方账号OpenAI@OpenAI推荐理由：OpenAI训练模型时不止看能力，还用强化学习专门教它诚实、谦逊、愿意接受批评，覆盖12个领域，对AI安全性很有意义。
6月17日
09:34
09:34Fireworks AI@FireworksAI_HQ
Fireworks AI@FireworksAI_HQ推荐理由：Fireworks 让你拿 Kimi 2.7 自己训练，便宜还能干翻前沿模型，想定制模型的赶紧试试。
00:07
00:07官方账号Cursor@cursor_ai
官方账号Cursor@cursor_ai83°
推荐理由：SpaceX收购了Cursor，以后编程时能用上SpaceX训练的模型，效率可能会大幅提升。
6月16日
23:31
23:31IT之家（博客/媒体）
71°
推荐理由：有个开发者自己写了一套代码，把M4芯片的AI训练能力全开出来了，不用苹果官方工具，跑到了15.8TFLOPS。想用iPad或Mac训练模型的人可以看看。
6月12日
13:34
13:34
官方账号Thinking Machines Lab@thinkymachines
官方账号Thinking Machines Lab@thinkymachines83°
推荐理由：NVIDIA 与 Think Machines 的合作意味着更强大的算力支持，做模型训练和定制 AI 的团队可以关注这一进展，看看能否利用其平台加速自己的项目。