10:15官方账号arXiv cs.AI@Longtian Wang, Zhengyu Zhao, Chenhao Lin, Le Yang, Shiwei Wang, Yuhan Zhi, Xiaofei Xie, Chao Shen目标检测模型在安全场景下易遭后门攻击,现有检测手段对场景级攻击效果有限。 DistScan 通过预 NMS 预测分布偏移来识别后门,无需获取模型权重。 实验在 MS-COCO 和 PASCAL VOC 基准上表现突出,平均准确率提升 27.32 个百分点。论文DistScan目标检测AI安全推荐理由:你试试 DistScan,它能检测目标检测模型的后门,不用搞复杂步骤,比以前方法效果强不少。原文稍后读已读值得跟进有用关注 DistScan
10:03官方账号arXiv cs.AI@Haadia Amjad, Ronald Tetzlaff该论文研究了概念可解释AI(CXAI)在多标签分类任务中的适用性,使用VGG16和ResNet50在MS-COCO数据集中标注最多的20个标签上训练模型。作者应用CRP和CRAFT两种CXAI方法生成概念级解释,发现CXAI能揭示DNN的学习弱点、更高概念区分度可减少标签与概念混淆、环境概念暴露数据集偏差。结果表明CXAI有助于诊断数据集引发的偏见并理解模型泛化能力。论文CXAI多标签分类MS-COCO推荐理由:这篇论文用VGG16和ResNet50跑MS-COCO,实测CRP和CRAFT两种解释方法,发现概念混淆和数据集偏见的具体规律,做可解释性研究值得看看。原文稍后读已读值得跟进有用关注 CXAI