论文
这篇论文提出了 FedASTRA,解决联邦超图学习里跨客户端超边匹配难题,还给出了性能和通信量的理论分析,做图学习方向的可以看看。
训练深度伪造检测模型时想用联邦学习保护隐私?这篇论文用 EfficientNet-B4 做实验,告诉你数据异构到什么程度 Grad-CAM 的解释会不可信。
搞系统或图计算的朋友可以看看,这篇把预取器的记忆访问预测历史拉到 128、跨度拉到 512,节点打乱都不用重训,CC 图上还留 95.4% 的 F1。
把2019年那个带log的遗憾界做到O(√(KL*)),一个算法同时拿下stochastic和adversarial两种场景,做bandit理论的别错过。
这篇论文挺有意思:发现对抗鲁棒性其实藏在少数关键参数里,只微调约5%参数就能媲美全参数对抗训练,还比LoRA效果好。
机器人模仿学习的轨迹总是抖,这篇把轨迹写成基函数组合,抖动降一个数量级,还不用重新训练。
这篇理论论文回答了 MDM 为什么并行生成还能靠谱:只要信源满足条件混合,样本量不随序列长度涨,膨胀调度还能把步数从 Ω(N) 压到对数级。做扩散语言模型的人值得看。
arXiv 上的一篇量化研究,专门解决 Mamba 这类线性递归模型的低精度推理问题,在 Mamba-2 和 Nemotron-H 上验证了效果。
有人发现 Evo 2 的 DNA 模型换了新 GPU 就算不准了,还写了个模拟器救回来,做模型部署的可以看看
训练超过单机显存的模型时,Muon 这类优化器会被跨卡通信拖慢,这篇论文的 Dobb 把矩阵更新改成块内本地计算,H100 上优化器调用从 124ms 降到 9.2ms,做分布式训练的可以看看。
MCU 上跑储层计算的话这篇很实用:不用查表的激活函数,速度是 tanh 的三分之一不到,NARMA-20 上误差还降了 22%。
GPT 6 Astra 做数学题很厉害,但给它回溯国际象棋题,24 次只对 2 次,这个新基准专门测模型的纯推理能力,失败原因分析很有意思。
工业互联网上灾害种类不断冒新、样本又少,这篇论文的 CLAR 用潜在表示+注意力打分做回放式增量学习,还给了理论证明,搞边缘部署的可以看看。
论文把无人机俯拍画面直接变成红绿灯控制策略,不用路边固定摄像头,换路口也能用,比视觉基线平均减少 7-9% 等待时间。
这篇论文给出了让研究智能体和人类一起做研究的训练方法,还配套发了 HackBench 评测 reward hacking,做智能体训练的可以看看。
研究者把测量量子材料的活儿交给 AI 智能体自己规划、自己操作 PPMS 设备,还在 TaP 和 Co2MnGa 上跑通了,做材料实验的可以看看。
arXiv 上这篇论文提出了 CopyLoop,不用重新训练就能给 Looped Transformer 解码提速最高 10.70 倍,在 6 个模型检查点上验证过,做推理加速的可以看看。
论文让模型判断'后院种花是常住还是 Airbnb 是短住'这类时长问题,主流模型集体翻车,分析写得挺细。
一个叫 AtomTree 的新框架,让 LLM 干家务类具身任务时不再一口气定死计划,卡住了就回退重规划,ALFRED 上零样本跑赢了之前的 LLM 规划器。
一篇挺有意思的理论论文,把“聪明”拆成信息和工作两个维度,还顺带论证了为什么该警惕智能体社会自己掌权。
arXiv 上这篇论文做了个新基准 inkGround,专门考 VLM 能不能从手写照片里恢复笔画顺序,Gemini-3.1-Pro 表现最好。
八成错误数字不是编的,是从自己别的实验里抄错的,论文还给了个 90% 精确率的自动核查工具,做 AI 科研的都该看看。
这篇讲了个反直觉思路:把模型故意剪枝或量化变弱,再用强弱对比来自蒸馏,Qwen3.5-4B 在 HMMT 上直接涨了 12.8 个点。
机器人团队做了个 TERRA 框架,火星车到了松软坡地上不用大量试错,3-5 次真实试跑就能学会主动悬挂爬坡,仿真里成功率能到 90%。做机器人 sim-to-real 的可以看看。
把蒸馏里的安全退化问题做成了可计算的数学模型,还给出临界转变的可检验预测,做模型对齐和蒸馏的人可以看看推导思路。
解决自蒸馏训练到后面不涨分的问题,思路是让教师自己也能被环境反馈训练,做后训练的可以看看。
训练数据只有 1000 条分子时,把 SMILES 换成随机化 SAFE,新分子产出直接翻 450 倍,还比随机化 SMILES 高 2.8 倍,做药物生成的人可以看看。
这篇论文讲了个挺聪明的训练技巧:让攻击模型从“宽松版”目标一路练到“严格版”,稀疏奖励问题就缓解了,安全测试团队可以参考。
天文学和机器学习交叉的论文:一个完全不用标签的神经网络,靠光谱本身学出红移,在 SDSS DR18 上表现接近现有算法,做巡天数据处理的朋友可以看看。
多智能体把 GPU 打满时,这篇论文教你怎么用 CPU 跑预填充,比 PyTorch SDPA 快 2 倍,还接进了 SGLang。
arXiv 上这篇论文把智能体持续学习变成路由问题,实测比全局历史省 65-72% 成本,做 Agent 记忆设计可以看看。