AITOPAI热报

深度学习

共 54 条相关 AI 资讯
9月2日
09:41
03:44
8月27日
22:10
10:42
10:42官方账号arXiv cs.AI@Roshan Prakash Rane, Marco Simnacher, Manuel Pfeuffer, Marc-Andre Schulz, Nys Tjade Siegel, Maximilian Dreyer, Frederik Pahde, Wojciech Samek, Sonja Greven, Kerstin Ritter
深度神经网络常利用训练数据中的虚假关联，称为捷径学习。基于概念的可解释性方法通过测试网络层中是否可以解码出如患者性别或扫描设置等概念来筛选捷径。由于每个概念都是单独评估的，这些方法可能会将概念之间的相关性误认为是模型使用它们的证据。我们引入了ICON分解，它通过考虑所有其他概念和结果，量化了每个概念解释了层中多少方差。在具有已知真实标签的合成数据上，ICON比七种替代基线方法更准确地恢复概念重要性。在皮肤病变和脑成像模型上，它隔离了模型真正依赖的概念，量化了任何提供概念都无法解释的表示，并产生了稀疏的解释，我们通过重新训练和分布外测试来验证这些解释。
论文深度学习模型审计概念级解释
推荐理由：这篇论文提出了一个名为ICON分解的新方法，用于更准确地评估深度神经网络中各个概念的重要性，对于模型审计和可解释性研究具有重要意义。与现有的基线方法相比，它能够提供更可靠的解释，对于理解模型的决策过程非常有帮助。
原文
09:51
09:51官方账号arXiv cs.AI@Ruoqi Hu, Chulin Zhao, Jiashuo Chang, Ramon Ruiz-Dolz, Hanhe Lin
本研究探讨了人类如何识别高级文本到图像（T2I）模型在涉及复杂构图因素时的缺陷。研究人员手动选择了651张具有复杂构图特征的参考图像，并手动编辑ChatGPT生成的提示来强调构图因素。然后，他们使用三个选定的T2I模型生成AI图像，并对这些图像进行了全面的主体研究以识别其缺陷。实验结果表明，在CO-AID数据集上训练深度模型可以预测AI生成图像中的缺陷并优化AI图像生成，证明了其可用性和有效性。数据集和补充材料可在GitHub上获取。
论文AI图像生成构图缺陷CO-AID数据集
推荐理由：这项研究揭示了AI生成图像中的构图缺陷，并提供了CO-AID数据集，对于优化AI图像生成和提升模型性能有重要意义。
原文
09:30
09:30官方账号arXiv cs.AI@Wensi Zhang, Tomas Teijeiro, Jérôme Thevenot, David Atienza
咳嗽声学在非侵入性结核病筛查中具有潜力，但机器学习（ML）模型是否捕捉到疾病相关的声学特征或数据收集的伪影尚无定论。研究人员评估了经典ML和深度学习（DL）咳嗽结核病分类器在三个独立数据集上的跨数据集泛化能力。尽管在数据集内部表现良好（ROC-AUC高达0.755±0.056），但两种方法都无法泛化，外部性能通常低于0.6，表明数据可能存在局限性。此外，音频表示由录音设备和数据集组织，而不是结核病状态，预测结核病概率与CODA国家层面的流行率一致，设备不匹配会降低迁移能力，而设备多样化的训练则会提高它。此外，临床变量基线泛化更一致（ROC-AUC 0.655-0.711），表明获取特定变量的可变性是泛化能力差的主要驱动因素。数据集内部的高性能不足以保证泛化能力。在咳嗽结核病模型临床应用之前，外部验证是必要的。
论文咳嗽结核病模型机器学习深度学习
推荐理由：这篇论文详细评估了咳嗽结核病模型的泛化能力，揭示了数据收集和设备差异对模型泛化能力的影响，为结核病筛查模型的开发提供了重要参考。
原文
8月26日
23:49
05:08
8月25日
23:48
8月24日
17:33
01:13
8月19日
11:40
8月18日
10:35
10:35官方账号arXiv cs.LG@Serena Su, Yifan Wang, Senwei Liang
该论文提出一种可解释且数据高效的深度神经网络框架，用于基于轨迹的循环肿瘤细胞（CTC）表型分类。为解决轨迹数据稀缺问题，作者开发了SubSeq靶向增强策略，在训练时随机提取局部轨迹片段，促进模型从局部模式中学习。实验表明，SubSeq相比基线和其他增强方法提升了分类准确率。梯度加权类激活映射分析显示，局部轨迹片段包含大量与准确分类相关的生物物理信息，同时表明全长轨迹存在冗余。该框架将微流体几何视为细胞力学特性的物理编码器，为诊断设备设计提供机制性见解。
论文CTC深度学习SubSeq
推荐理由：这篇论文用深度学习从微流体轨迹里识别癌细胞表型，提出了一个叫SubSeq的增强方法，比基线更准，还告诉你模型在看哪些物理区域。
原文
8月17日
10:32
10:32官方账号arXiv cs.AI@Karel Becerra, Boris Mederos, Dean Snow, Ramón A. Mollineda
该研究提出一个不确定性感知的深度学习框架，用于旧石器时代晚期手印的性别归属。框架通过双图像处理和双轮廓提取，为每个手印生成12种轮廓实现，并由两个各含10个神经网络的集成模型（EfficientNet-B3和MobileViT-S）处理，模型在14,036个当代手样本上训练。在当代数据集上，老年组的分类准确率超过88%。应用于史前手印时，框架输出性别预测与内部一致性置信度，可区分形态稳定与模糊案例。
论文EfficientNet-B3MobileViT-S性别判定
推荐理由：这篇论文用深度学习给远古手印判性别，在当代数据上准确率超88%，还能告诉你哪些样本拿得准、哪些拿不准。
原文
8月13日
17:48
17:45
8月11日
12:38
12:38官方账号arXiv cs.LG@Samaneh Rezaeimanesh, Mohsen Behradfar, Mohammad Fili, Guiping Hu
Child Mind Institute使用Helios腕戴设备收集数据，结合惯性测量单元、热电堆传感器和飞行时间传感器，捕捉运动、热感和距离信息。研究团队开发了结合卷积神经网络和门控循环单元的深度学习框架，并加入模态专用自编码器和晚期融合分类器。该框架在二元检测中F1分数达0.985，AUC为0.997，九类分类中宏平均F1为0.700，AUC为0.963。Shapley解释显示飞行时间和惯性模态主导判别力，层级聚类表明误分类主要由手势解剖区域驱动。研究证明多模态融合可实现准确、客观、连续的行为监测，为可穿戴辅助心理健康诊断奠定基础。
论文多模态融合可穿戴设备深度学习
推荐理由：这个研究用腕带传感器加深度学习，检测拔毛、抠皮这类小动作，F1到0.985，比单模态准多了，对心理健康监测挺有参考价值。
原文
11:09
11:09官方账号arXiv cs.LG@Ange-Clément Akazan, Ineza Remy Mugenga, Abebe Geletu, Jean Medard Ngnotchouye, Issa Karambal
ReliableNet 提出一种新的训练方法，直接约束模型同时自信且预测错误的联合概率（JCW），使其低于用户设定的风险预算 α。该方法将问题建模为机会约束的经验风险最小化，并用保守光滑内近似保证可行性。在四个表格和两个图像数据集上，ReliableNet 是唯一在所有分布内数据集和随机种子下满足 JCW 预算的方法。在多种分布偏移下，它取得最低的经验 JCW，同时保持较高的准确率和校准性能。
论文ReliableNet可信分类机会约束
推荐理由：想减少模型自信犯错？ReliableNet 直接约束这种错误率，比校准和选择性预测更稳，测试里表现最好。
原文
8月10日
10:53
10:53官方账号arXiv cs.LG@Xulin Fan, Juan Azcarreta, Ashutosh Pandey, Jesus Alvarez, Ke Tan, Jacob Donley, Ritwik Giri, Buye Xu
该论文提出一种云边协同的语音增强框架，针对可穿戴设备低延迟、低算力的约束，利用云端模型辅助边缘模型。框架包含三项技术：延迟服务器输出作为额外输入、逐层特征提升以及协同多通道维纳滤波。实验表明，该框架相比纯边缘基线显著提升性能，且额外计算开销极小。
论文语音增强多通道深度学习
推荐理由：边缘设备算力不够？这篇论文用云端模型来帮忙，做语音增强效果好还省算力，搞可穿戴的可以看看。
原文
7月31日
11:08
11:08官方账号arXiv cs.LG@H. Martin Gillis, Thomas Trappenberg
这篇综述系统梳理了深度学习中的不确定性量化（UQ）方法，聚焦集成近似和近似贝叶斯两大类。作者将方法分为五个家族：贝叶斯神经网络、蒙特卡洛Dropout、深度集成、高效集成近似以及最后一层或单次前向方法。文中同时讨论了证据网络、保形预测、事后校准，以及分布外检测和选择性预测。综述还对比了熵分解与成对散度度量，并单独讨论了大型语言模型中的不确定性。
论文不确定性量化深度学习贝叶斯神经网络
推荐理由：想搞清深度模型怎么给出靠谱置信度？这篇把贝叶斯、Dropout、集成、单次前向等方法全梳理了一遍，还讲了各自局限，适合入门和选型参考。
原文
7月30日
12:14
7月28日
11:43
11:43官方账号arXiv cs.LG@Mariela De Lucas Álvarez, Melvin Laux, Arthur de Freitas Precht, Maurice Martin, Edoardo Caroselli, Frank Kirchner, Alexander Fabisch
精选
论文提出一种基于1D卷积神经网络的深度学习框架，用于陀螺仪残差角速率校正。网络结合陀螺仪和星敏感器多传感器输入，输出均值校正并产生与输入相关的偶然不确定性，同时通过集成5个独立模型估计认知不确定性。在标称条件和含加性及时间相关噪声的结构化扰动下评估，梯度归因方法揭示校正和不确定性输出的证据分解。结果表明偶然不确定性随扰动强度增加，但校准不一致；认知不确定性在分布偏移时信号更清晰，能更好区分标称与扰动工况。
论文1D CNN不确定性分解陀螺仪校正
推荐理由：这篇论文教你如何用深度学习分解陀螺仪偏差校正的不确定性，还用了梯度归因来分析模型行为，适合做状态估计或故障检测的人参考。
原文
7月20日
09:19
09:19官方账号arXiv cs.AI@Iker Moran-Cavero, Monica Hernandez, Elvira Mayordomo, Naiara Artiaga, Beatriz Pardiñas, Beatriz Cordon, Elena Garcia-Martin
该论文针对OCT图像中视网膜层分割因散斑噪声、伪影、域偏移等挑战，提出一种以中央凹为中心的空间归一化预处理框架。该方法在7种深度学习架构上评估，结合B-scan级的重叠度量、A-scan级的拓扑感知度量和en-face级的厚度度量。无真实标签时，论文提出无需标注的拓扑违反定量指标和基于厚度的定性评估。实验表明空间归一化显著提升分割鲁棒性和一致性，有助于神经退行性疾病中的生物标志物提取。
论文OCT视网膜层分割空间归一化
推荐理由：这篇论文解决了OCT分割跨域泛化难题，用空间归一化让不同来源的数据对齐，实验扎实，适合研究视网膜影像和医学图像分析的朋友。
原文
7月15日
09:06
09:06官方账号arXiv cs.LG@Sarah Al-Shareeda, Gulcihan Ozdemir, Heung Seok Jeon
该论文提出一个统一的一日前概率预测框架，用于比较模块化事后残差分位数与集成模型内分位数学习两种方案。使用三种深度学习骨干网络（循环、混合循环、Temporal Fusion Transformer）在相同输入下进行评估。结果表明TFT上的集成分位数学习性能最优，MAPE为2.2-3.6%，RMSE为28-83W，且区间宽度比模块化方案窄约5倍。重建敏感性测试显示重建输入使分位数得分增加106%，但区间宽度几乎不变，说明模型未自动吸收重建不确定性。该研究揭示事后残差分位数在依赖重建输入时的局限性，并通过非DL基线和季节性验证支持排名。
论文TFT负荷预测概率预测
推荐理由：这篇论文教你怎么选负荷预测模型——TFT内部做分位数学习比事后校正靠谱，区间窄5倍，适合做精确调度。
原文
7月8日
10:01
10:01官方账号arXiv cs.LG@Yao Fu, Chunxia Zhang, Junmin Liu, Yihang Jin, Haishan Ye, Yuanao Yang
EISAM（Extragradient-Inspired Sharpness-Aware Minimization）是一种新型优化器，通过两步更新过程（预测步骤探索损失景观几何、扰动步骤用基础优化器细化更新）来提升泛化性能。在基准数据集上的实验表明，EISAM在测试准确率和训练效率上持续优于SGD、Adam和SAM。理论分析显示EISAM通过引导参数向曲率更小的平坦极小值收紧泛化界。此外，EISAM降低了对扰动半径的敏感性，简化了超参数调优。
论文EISAMSAM优化器
推荐理由：这篇论文提出的EISAM优化器比SAM更鲁棒，调参更简单，在多个架构上准确率更高，适合追求更好泛化性能的深度学习实践者。
原文
7月7日
13:12
13:12官方一手pandaily@contact@pandaily.com (Pandaily)
Wiener Intelligence 于2026年5月28日在《Nature Communications》上发表论文，提出一种多模态深度学习模型，用于患者功能预后风险分层。这是首家中国数据生成公司在 Nature 系列期刊上发表研究成果。该论文展示了 Wiener Intelligence 在医疗 AI 领域的技术积累，涵盖影像、文本等多模态数据整合。
论文Wiener IntelligenceNature多模态
推荐理由：中科院的？不是，Wiener Intelligence 这家做数据生成的公司直接把多模态模型发上了 Nature 子刊，医疗预后分析这事儿他们真干出来了。
原文
11:58
03:06
7月1日
10:32
10:32官方账号arXiv cs.AI@Srijan Tiwari, Aditya Chauhan, Manjot Singh
该论文对神经网络在算法任务上的延迟泛化（grokking）现象进行几何分析，发现交叉熵优化下隐藏表示的径向膨胀是延迟的主因。作者提出径向-角分解并推导三个可检验命题，引入单一超参数范数惩罚将激活约束在 sqrt(d) 半径超球面上。在模算术任务上，该惩罚使 MLPs 和 Transformers 的 grokking 加速高达 6 倍；对 10M 参数的 nanoGPT 在 3 位数加法上训练步数减半。
论文Grokking泛化几何分析
推荐理由：这篇论文用几何视角解释了神经网络为什么先死记硬背后突然泛化，还找到了一个简单技巧（约束隐藏层半径）让 grokking 快 6 倍，值得搞训练的人看看。
原文
6月29日
13:50
6月25日
10:36
10:36官方账号arXiv cs.LG@Dan Zimmerman, Dimitris A. Pados, George Sklivanitis
针对水下图像中海洋物种自动分类面临的域迁移、细粒度相似性和标注粒度不均衡问题，研究者提出了一种结合分类学层次结构的深度学习框架。该方法包括分类学加权损失、最小风险贝叶斯推理、多尺度特征编码和独立的分层分类头。在FathomNet 2025数据集（包含7个分类等级的79个海洋类别）上评估，系统实现了1.581的平均分类学距离，接近第一名方案（1.535），差距在3%以内。主要改进来自于与度量对齐的推理以及简单解耦组件，它们在分布变化下比学习依赖关系具有更好的泛化能力。
论文FathomNet海洋物种分类分层分类
推荐理由：这篇论文用分层损失和贝叶斯推理搞定水下物种分类，在FathomNet上只比第一名差3%，思路很实在。
原文
6月19日
09:46
09:46官方账号arXiv cs.LG@Itay Lavie, Noam Levi, Yonatan Kahn
本文从物理学视角分析了深度学习训练与泛化的统计特性，指出其打破了经典统计学的多项直觉。重点讨论了神经缩放定律（neural scaling laws）及其与约束、归纳偏置的相互作用。文章还回顾了构建深度学习模型时的多种选择及其合理性。
论文深度学习神经缩放定律统计特性
推荐理由：这篇论文从物理学角度拆解深度学习的统计特性，解释了神经缩放定律如何打破经典统计直觉，做研究的值得看看。
原文
02:03
02:03官方账号MIT CSAIL@MIT_CSAIL
MIT CSAIL 研究员 Alexander Amini 主讲的深度学习免费课程已更新至 2026 版。该课程涵盖监督学习、无监督学习和强化学习三大范式。第 5 讲专门讲解三者的核心差异。课程完全免费开放，适合入门到进阶学习者。
技巧MIT深度学习免费课程
推荐理由：MIT 出了新版深度学习免费课，Alexander Amini 讲第 5 讲，把监督、无监督、强化学习的区别掰开揉碎，想入门可以看看。
原文
6月16日
11:03
11:03官方账号arXiv cs.LG@Abdul-Rauf Nuhu, Parham M. Kebria, Vahid Hemmati, Mahmoud N. Mahmoud, Edward Tunstel, Abdollah Homaifar
现有深度学习模型泛化误差上界往往过于松散，尤其在0-1损失下。本文提出基于局部鲁棒性与稳定性的新泛化界，通过按输入空间子区域中稳定与不稳定样本数量缩放鲁棒项。在ImageNet数据集上，该界保持非空且比现有方法得到更紧的上界，与多个鲁棒深度神经网络的真实性能紧密对齐。
论文泛化误差鲁棒性ImageNet
推荐理由：这篇论文提出了更紧的深度学习泛化误差上界，在ImageNet上比现有方法更准，值得一看。
原文
6月10日
10:38
10:38官方账号arXiv cs.LG@Gauthier Boeshertz, Razvan Pascanu, Claudia Clopath
反向传播（BP）因需要反馈权重与前向权重的转置一致而被认为生物上不可信。反馈对齐（FA）使用固定随机反馈权重来规避此问题，但在深层架构中效果不佳。研究发现FA误差的有效秩远低于BP，限制了参数空间的探索。通过使用Muon优化器正交化权重更新和隐藏活动归一化促进激活正交性，可提高FA的有效维度。在CIFAR100和ResNet-18上，这些方法将准确率提升了9个百分点。
论文反馈对齐秩坍缩Muon优化器
推荐理由：这篇论文揭示了反馈对齐在深层网络中失效的根本原因——低维梯度动力学，并给出了可落地的解决方案（Muon+归一化）。做生物启发学习或替代反向传播研究的团队值得关注，实验方法可以直接复现。
原文
6月8日
10:47
6月5日
11:56
11:56官方账号arXiv cs.AI@Thomas T. Zhang, Alok Shah, Yifei Zhang, Vincent Zhang, Nikolai Matni, Max Simchowitz
精选
论文提出一种名为双预处理（DoPr）的新优化范式，专门解决深度学习模型在部署时因自身预测滚动（如自回归语言模型、流生成模型、机器人策略学习）导致的误差累积问题。DoPr 结合梯度预处理（如 Adam、Muon）和激活预处理（如 KFAC），能直接提升下游任务性能（如成功率、生成质量），而不一定改善验证损失。这挑战了传统以验证损失为优化目标的评估方式，为训练-测试不匹配问题提供了新的优化维度。实验表明，DoPr 在多种测试时反馈（TTF）场景中作为即插即用模块有效。
论文优化器测试时反馈误差累积
推荐理由：DoPr 解决了训练和部署性能不一致的痛点，做自回归模型、流生成或机器人学习的团队可以直接尝试这个即插即用优化器，可能会发现验证损失没变但实际效果提升。
原文
6月4日
11:28
11:28官方账号arXiv cs.LG@Kelan Gray, Finlay Brown, Nicolas Boullé, Matthew J. Colbrook
精选
Koopman理论将非线性动力学转化为线性谱问题，但计算中依赖硬性的有限维选择。DeepMDMD结合深度Koopman方法与结构保持方法，学习潜在空间及其划分，同时强制Koopman乘积规则作为精确代数约束。训练在精确乘法算子更新和可微潜在聚类步骤之间交替，后者促进Koopman封闭性。结果在哈密顿、混沌和流体示例中，学习到的字典比几何MDMD划分更紧凑且动态一致，减少谱污染，揭示更丰富的连续谱结构，并在高维流动中保持相干结构和长期谱统计。
论文Koopman理论非线性动力学深度学习
推荐理由：做非线性动力学建模或流体仿真的研究者，DeepMDMD用代数约束解决了Koopman学习中的字典选择难题，值得关注其如何在高维噪声下保持稳定预测。
原文
6月3日
08:04
6月2日
12:01
12:01官方账号arXiv cs.AI@Shuo Zhang, Chenqi Li, Tingting Zhu
长尾识别是深度学习中的难题，两阶段解耦范式中的自适应范数缩放技术虽有效，但依赖超参数调优，性能波动大。本文提出 Self-Adaptive Monotonic Normalization (SAMN)，通过 Pool Adjacent Violators Algorithm 直接对每类权重范数施加单调性约束，无需参数正则化，彻底消除超参数敏感性。SAMN 是一种通用策略，可无缝集成到其他方法中提升性能。在多个基准数据集上，SAMN 显著提升长尾识别准确率，常达到最优结果。
论文长尾识别自适应范数缩放超参数友好
推荐理由：做长尾识别或类别不平衡任务的开发者，终于可以告别调参噩梦了——SAMN 直接省去超参数搜索，即插即用还能涨点，建议试试。
原文