全部动态
一篇教你怎么把 MoE 和循环 Transformer 结合的论文,Foil 把专家层数减半、循环翻倍,同等算力下预训练损失更低,代码也开源了。
arXiv 上这篇论文挺有意思:把调和测度做成可学习的边界核,训练一次,换边界条件换源项都不用重训,直接重新积分就出新解。做科学计算或 PDE 求解的可以看看。
优化圈的朋友看看这篇:把预条件子交给神经网络学,内点法解非线性规划能省掉 Hessian 和牛顿求解,warm start 直接砍掉六成多迭代。
一群研究者认真测了文档到底能不能帮 coding agent,结果在 10 个仓库上翻车,还公开了打分基准和提示词,做 agent 的人该看看这个负面结果。
3 位小学老师用 ToyTalk 上了 13 天 AI 课,研究者跟全程,总结了他们怎么临场调整教学,做教育 AI 的人能直接参考。
手持视频拍糊了也能重建 3D 场景,这篇 ClearGS 靠加权监督加无参考修复,在 GS2E 和 GSOTM 上跑赢了现有方法。
arXiv 上这篇论文教你把提示词砍到最短还不掉输出质量,还给了三个可操作的压缩框架,写 prompt 的人可以看看怎么省 token。
用 Qwen2.5-VL-3B 在 PMC-VQA 上做了严谨对照实验,发现答案准确率涨了,模型可能反而不看图了,做医疗 VLM 微调的都该看看。
这篇不聊概念,讲一个真实上线的阿拉伯语语音产品怎么搭:6 个 MCP 服务器做检索、自训的 6B 路由模型和 TTS 都开源了,做语音 Agent 的能抄不少作业。
一个新的多智能体协作基准,用 MMORPG 沙盒逼模型跑 50 多轮团队任务,Gemini 3 Flash 也只拿到 52% 成功率,能看清现在模型协作到底差在哪。
一篇讲 LoRA 技能怎么叠加不互相干扰的论文,思路是把新适配器设计成只读旧技能的输入,合并进基座权重还零推理开销,SuperGLUE 比现有方法高了 20 多分。
用 DFA 训网络总卡在常量预测器?这篇论文把根因拆到共模误差和 tanh 饱和,还给了减批量均值这种直接可用的修复办法。
一篇改进 Decision Transformer 的新论文:发现长序列跑崩时预测误差会飙升,先筛掉不可信上下文再选动作,D4RL 上验证有效,做离线强化学习的可以看看。
一篇推理系统论文,解决多模态模型 Encode 阶段拖垮 GPU 利用率的问题,goodput 比 vLLM 高 1.7 倍、比 NVIDIA Dynamo 高 4.3 倍,做 MLLM 服务的可以看看。
一篇把 14B 视频世界模型压到 1.3B、四步就能跑的蒸馏论文,专治 DMD 蒸馏后机器人动作变僵的问题,做具身智能的可以看看。
仅展示最近 2000 条内容,更早的内容请查阅 AI 日报存档