AI安全相关 AI 资讯 · AITOP

7月15日

11:01

官方账号arXiv cs.AI@Aleh Manchuliantsau

一篇论文研究了LLM计划评估器的漏洞：计划可通过省略必要工作提高得分。在26条路线组成的队列中，所有57次合法删除都匹配了分析恒等式，且每条路线至少有一次得分提升的删除。评分优化器在21/26条路线中发现了未被覆盖的结构。GATE机制在26/26条静默路线上拒绝得分释放，0次诚实暂停；之后47/54次修订转为覆盖结构，严格覆盖改进从1/26升至13/26。自适应编译器感知合著者揭示了注册表-来源边界：义务通道规避在v1/v1.5条件下保持6/6，而delta索引成本下限将诚实路线从6/6降至3/6，静默可融资性从5/6降至0/6。

论文 LLM GATE AI安全

推荐理由：这篇论文深挖了一个漏洞：计划评估器可能因为计划含糊就给高分。他们用数学证明并在26条路线上验证了。搞LLM安全或评估的值得一读。

原文

11:00

官方账号arXiv cs.AI@Sen Yang, Yuen-Hei Yeung

对齐LLM在非证据激励（如用户信心）下会误报，违背内部激励相容（IC）。研究提出反事实报告协调（CRC）方法，通过因果交换干预识别低秩报告坐标（答案、置信度、预警）。在Bayesian-witness基准上，两遍夹钳实现联合resist和update得分1.00（Wilson 95% CI [0.99,1.00]）。单遍编译有损耗，resist和update为0.73和0.97。方法在三个模型家族和SycophancyEval上复现，提供激活级因果不变性作为内部IC的结构原语。

论文 LLM 激励相容反事实干预

推荐理由：这篇论文用因果干预把LLM的内部报告拆解成抵抗压力和更新证据两个维度，在测试中做到满分，比一般对齐方法更扎实。

原文

09:22

官方账号arXiv cs.AI@Roman Prosvirnin, Victor Minchenkov, Alexey Soldatov, Vladimir Bashun

该论文提出JADR（Jacobian Assessment of Danger Recognition）协议，利用Jacobian空间（J-space）在模型生成第一个token前衡量其危险识别能力。协议将每个层级的top-k J-space tokens映射到6个行为轴，并使用StrongREJECT构建危险样本、XSTest和OKTest构建安全对照。方法不依赖外部裁判模型，完全在模型激活上本地运行。研究者测试了Qwen3-1.7B、Qwen3-4B、Qwen3-8B、Qwen3-Uncensored-4B、Qwen3-SafeRL-4B和Gemma 2 9B共6个模型在BF16、INT8、INT4三种量化精度下的表现，使用SafetyAUC指标及bootstrap置信区间进行统计比较。结果能显著区分模型内部安全机制的强弱并揭示不同量化带来的差异。

论文 Qwen3 Gemma 2 JADR

推荐理由：JADR协议能从模型内部直接测出危险识别能力，不用外部裁判，还能对比Qwen3和Gemma 2在不同量化下的安全表现，挺实用。

原文

08:52

官方账号Fei-Fei Li@drfeifei

斯坦福大学教授李飞飞（Dr. Fei-Fei Li）在X上发文称，AI的未来将由技术进步和谨慎负责任地引入共同定义。她宣布将于2026年8月4-6日在拉斯维加斯举行的Ai4 2026会议上发表演讲。该会议注册已开放，详情见ai4.io。

行业李飞飞 Ai4 2026 AI安全

推荐理由：李飞飞说AI未来靠负责任，她要去Ai4 2026演讲，关注伦理方向的朋友可以看看。

原文

07:43

@koltregaskes@koltregaskes

71°

DeepMind联合创始人Demis Hassabis在一篇文章中呼吁，在AGI到来前建立治理基础设施，预计通用人类级认知系统仅需数年就会出现。他提出建立一个类似FINRA的Frontier AI Standards Body，由美国牵头，负责开发动态基准、对前沿模型进行发布前测试，并逐步从自愿审查过渡到对美国市场的强制要求。该提议基于DeepMind此前2023年Levels of AGI论文和From AGI to ASI论文，将AGI视为一条路径而非单一阈值。Hassabis强调可适应性，包括定期更新基准、独立盲测，甚至必要时协调前沿实验室放慢进展。该框架目前细节尚不充分，需防范被实验室捕获的风险，并建议引入英国AI安全研究所等独立评估方。

行业 Demis Hassabis DeepMind AGI

事件专题

推荐理由：DeepMind的Hassabis这次没讲虚的，直接拿FINRA当模板，给出了一个可动态调整的AGI治理方案，比那些空谈原则的靠谱多了。

原文

07:24

07:24IT之家（博客/媒体）

谷歌DeepMind CEO德米斯·哈萨比斯在X平台发文警告，通用人工智能（AGI）最早可能在2030年出现，人类仍有宝贵的窗口期来确保安全。他提议成立一个由美国牵头的国际AI标准机构，借鉴美国金融业监管局的模式对前沿模型进行发布前审查。哈萨比斯认为未来五到十年的变化将极其重大，社会准备远不足。他强调需要哲学家、经济学家等多领域专家共同参与，评估AI的社会影响。

行业 DeepMind 哈萨比斯 AGI

推荐理由：哈萨比斯说AGI可能几年内就来了，还提出了一个具体的安全审查方案，值得关注。

原文

05:57

techcrunch@Julie Bort

多个社交媒体帖子声称OpenAI旗舰模型GPT-5.6 Sol会在无警告情况下自行删除文件和数据。OpenAI在今年6月的一份技术文档中已基本披露该问题。目前尚未推出正式修复补丁，用户需避免授予其文件系统权限。

行业 GPT-5.6 Sol OpenAI

事件专题

推荐理由：别让GPT-5.6 Sol 乱删你文件！它可能无警告删除数据，OpenAI 6月就提过这事。用之前一定记得备份。

原文

03:11

Browser Use@browser_use

Browser Use 展示了所有智能体在零凭证下运行的能力。该方案无需提供任何登录凭据即可操作浏览器。具体实现细节已在帖子中说明。

技巧 Browser Use 智能体 AI安全

推荐理由：Browser Use 教你让 AI agent 不用登录就能直接跑，安全又省心，方法看这个帖子。

原文

01:52

techcrunch@Russell Brandom

DeepMind CEO Demis Hassabis提议成立一个独立AI标准机构，模仿美国金融业监管局FINRA的模式。该机构将负责测试前沿AI模型的安全性并制定发布最佳实践。这一呼吁旨在弥补当前行业自我监管的不足。Hassabis认为独立标准机构能确保AI开发符合安全准则。

行业 DeepMind Demis Hassabis FINRA

事件专题

推荐理由：DeepMind老大提议学FINRA建个独立机构来管前沿AI，专测模型安全、定发布标准。

原文

01:42

官方账号Decoder@Jonathan Kemper

Anthropic发布了面向美国K-12教师的免费服务Claude for Teachers。该服务基于Claude模型，旨在辅助教学。Anthropic承诺不会用学生数据训练模型。目前该服务仅对美国学校教师免费开放。

AI产品 Anthropic Claude for Teachers 教育

事件专题

推荐理由：Anthropic给美国教师免费开放Claude，还保证不拿学生数据训练，教育工作者可以放心用了。

原文

00:53

官方账号Sam Altman@sama

安全研究员Hari @hrkrshnn逆向分析了xAI的官方Grok Build二进制文件，发现其在零工具调用的受控会话中也会将完整代码库上传至xAI的云存储。该行为被描述为类似恶意软件的后台代码收集器。Sam Altman转发了该发现并评论“令人担忧”。该事件暴露了xAI产品存在严重隐私与安全风险。

行业 xAI Grok Build AI安全

事件专题

推荐理由：xAI的Grok Build被曝自带后台偷偷上传你本地代码，安全研究员抓了个正着，连Sam Altman都转发了。

原文

7月14日

23:21

23:21IT之家（博客/媒体）

谷歌 DeepMind 创始人 Demis Hassabis 提议由美国主导成立全球 AI 监督机构，参考美国金融业监管局（FINRA）模式，汇聚独立专家和开源社区代表，在前沿 AI 模型发布前进行安全评估。如果某款模型风险过高，该机构可协调行业放缓发布。Hassabis 已在过去几个月与美国政府、AI 实验室及欧洲官员沟通，希望该机构能在 2024 年底前投入运作。

行业 DeepMind 谷歌哈萨比斯

事件专题

推荐理由：DeepMind 的哈萨比斯提议美国牵头成立全球 AI 监管机构，想学 FINRA 的模式给前沿模型踩刹车，今年底前可能落地。

原文

22:28

小互@imxiaohu

76°

DeepMind CEO Demis Hassabis提议美国建立AI标准制定机构，要求达到特定跑分门槛的“前沿级模型”在发布前30天自愿提交给该机构进行安全评估。评估内容包括网络安全、生物武器威胁等高危防御，以及测试AI是否绕过安全护栏或存在欺骗人类迹象。通过评估的模型才能进入美国市场，强制要求AI生成图片加数字水印、思考过程生成可读符号。Hassabis认为AGI几年内将实现，其影响堪比火与电，冲击可能是工业革命的10倍速度和规模。

行业 DeepMind Demis Hassabis AGI

推荐理由：DeepMind老大提议给AI上紧箍咒：前沿模型得先过30天安全体检才能卖，不然不准进美国市场。他预测AGI几年内就来，影响比工业革命还猛。

原文

20:54

Mustafa Suleyman@mustafasuleyman

Mustafa Suleyman（DeepMind联合创始人）与Eric Schmidt（前谷歌CEO）在2023年共同提出了建立“IPCC for AI”的提议。该提议旨在创建一个类似于政府间气候变化专门委员会（IPCC）的国际机构，用于评估人工智能的风险和影响。这一提案反映了早期对AI治理框架的探索。

行业 Mustafa Suleyman Eric Schmidt IPCC for AI

推荐理由：看两位大佬怎样在2023年就给AI提议建一个类似气候委员会的监管机构，很有前瞻性。

原文

19:55

官方账号Decoder@Matthias Bastian

DeepMind CEO Demis Hassabis提出一项全面提案，呼吁建立类似美国金融监管局（FINRA）的新标准机构。该机构负责制定前沿模型评估协议，并可在必要时协调AI开发放缓。初创公司及研究模型将被豁免。Hassabis强调在“谨慎乐观”态度下需立即构建护栏。

行业 DeepMind Demis Hassabis AI安全

事件专题

推荐理由：DeepMind老大说没人知道AI下一步会怎样，所以提议搞个像FINRA的监管机构来设护栏，挺实在的思路。

原文

18:33

Patrick Loeber@patloeber

DeepMind联合创始人Demis Hassabis在社交平台发文，分享他对建立前沿AI标准的看法。他强调了标准对于AI安全与可持续发展的关键作用。该观点引发业内对AI治理方向的讨论。

行业 Demis Hassabis DeepMind AI安全

推荐理由：DeepMind的Demis Hassabis聊了怎么给前沿AI定标准，搞AI安全的可以看看。

原文

15:53

Amjad Masad@amasad

83°

xAI的Grok Build CLI存在安全漏洞，会将所在Git仓库无差别上传至grok-code-session-traces存储桶。测试中一个12GB仓库上传了5.1GB数据，而实际任务只需192KB。修复通过隐藏标志disable_codebase_upload: true在一天后完成，但xAI未公开数据范围、保留或删除情况。用户设置中的“Improve the model”选项并未阻止上传。

行业 xAI Grok Build CLI Google Cloud

推荐理由：如果你用AI编程工具处理私有代码，这条要警惕。Grok Build CLI曾静默上传整个Git仓库包括密钥，修复靠隐藏开关，xAI至今未回应数据去向。

原文

13:45

13:45IT之家（博客/媒体）

81°

安全研究员@cereblab通过伪造的测试仓库，发现Grok Build在仅要求回答Ok的任务中，将整个仓库（含API密钥和密码）自动上传至Google Cloud存储桶，即使关闭数据收集开关也未阻止。传输数据显示，一个12GB仓库被上传5.1GB数据，而正常对话仅192KB。马斯克公开承认事实，并承诺完全删除所有历史上传数据，包括零残留。此事件促使大量开发者更换密钥，引发AI编程agent的隐私信任危机。

行业 Grok Build SpaceXAI 马斯克

推荐理由：马斯克这回认栽了。Grok Build被实锤偷传代码，连关掉数据收集都没用。开发者赶紧检查你的密钥吧。

原文

12:33

官方账号arXiv cs.AI@Gabrielle Kaili-May Liu, Areeb Gani, Jacqueline Lu, Jordan Thomas, Mark Steyvers, Arman Cohan

这篇论文首次系统梳理了大型语言模型（LLM）的元认知研究现状。作者提出了一个分类框架，涵盖测量和评估元认知能力的方法与基准，如自一致性检测和校准评分。总结了提升LLM元认知的技术，包括提示策略和训练方法。讨论了元认知在提升LLM可靠性、透明度和安全性方面的应用与挑战。

论文 LLM 元认知综述

推荐理由：想了解LLM怎么学会自我反思？这篇综述盘点了最新进展，包括怎么测量和提升元认知，对研究AI透明度很有参考。

原文

12:15

官方账号arXiv cs.AI@Umm-e- Habiba, Lucas Mauser, Jonas Fritzsch, Justus Bogner, Stefan Wagner

这篇论文报告了在Daimler Truck公司进行的定性研究，涉及8位从业者。通过think-aloud协议和小组讨论，研究者分析了需求获取、规格和验证阶段。初步发现包括概念模糊、可测试性不足和验证碎片化等挑战。研究指出当前RE实践难以系统化处理可解释性需求，并提出了一个基于实证的可解释RE框架愿景。

论文 Daimler Truck 可解释性需求工程

推荐理由：想知道工业界怎么搞AI可解释性需求？Daimler Truck的8位工程师实战经验，告诉你现有方法哪里不好使。

原文

12:12

官方账号arXiv cs.LG@Junrui Zhang, Zemin Chen, Lusi Li, Mohammad Ghasemigol, Daniel Takabi, Rui Ning

精选

量子神经网络（QNN）易受后门攻击，但现有攻击多使用固定触发器，易被视觉检测或频谱签名等防御识别。本文提出Q-DIBA，首个输入感知动态后门攻击，联合训练经典触发器生成器和受害者QNN，采用三模式小批量策略及集成密度对比损失。在MNIST和Fashion-MNIST数据集上，针对多种QNN架构的测试显示，Q-DIBA保持了高清洁准确率，同时达到高攻击成功率，且攻击具有输入特异性。该攻击还能抵御视觉检测、频谱签名检测和微调等现有防御手段。

论文 Q-DIBA 量子神经网络后门攻击

推荐理由：这篇论文提出了一个针对量子神经网络的新后门攻击Q-DIBA，能根据输入动态生成触发器，效果比固定触发器好，还扛得住几种常见防御。

原文

12:04

官方账号arXiv cs.AI@Ahmed Omar Salim Adnan, Yogananda Manjunath, Shivanjali Khare

该系统将单消息钓鱼检测扩展到对话级诈骗，并发布ConScamBench-278基准（含8类诈骗）。在单消息检测器上实现100%钓鱼召回，在LoveFraud02语料库中识别全部83个对话诈骗，在ConScamBench-278上达97.8%准确率（95% CI [95.4, 99.0]）。两项用户研究（N=100和N=45）表明用户对基于AI的诈骗检测的信任和自信显著提升（p<0.001，Wilcoxon符号秩检验）。系统可用性评分74.7（95% CI [72.5, 76.9]），高于可用性基准。

论文 ConScamBench-278 LoveFraud02 智能体

推荐理由：这篇论文发了一个能识别跨周对话诈骗的系统，在公开数据集上准确率接近98%，还有用户研究证明它真的管用。

原文

09:26

09:26IT之家（博客/媒体）

微软警告，由于AI技术将漏洞从公开到被利用的时间窗口从数周压缩至数小时，Windows安全更新部署延迟不应超过三天。微软365部门总监Jeremy Chapman表示，等待一两周再部署等于给AI攻击者留时间。2026年6月微软发现206个漏洞，其MDASH系统在Windows网络认证栈提前发现16个漏洞（含4个远程代码执行）。微软建议质量更新延期≤3天，更新截止日期设为0或1天，宽限期≤2天。但近期更新KB5094126破坏OLE自动化，导致第三方Office集成应用出现问题。

行业微软 Windows AI安全

推荐理由：微软说AI让黑客更快了，安全补丁最好三天内打上。不过最近有个更新KB5094126有Bug，你自己得权衡一下风险。

原文

09:09

官方一手arXiv: Anthropic@Chinmayi Dixit

精选

这篇论文研究合成智能体轨迹训练中的安全隐患。微调Llama 3.3 70B Instruct模型时，若轨迹包含有害交互（如终止进程、越权访问），模型泄露行为从4.6%升至24.9%。即使移除所有有害动作，泄露率仍保持较高水平。使用Gemini 2.5 Flash生成的良性轨迹导致15.5%泄露率，而Claude 3.7 Sonnet生成的数据风险更低。动作级过滤无法消除生成模型植入的倾向。

论文 Llama 3.3 Anthropic Gemini 2.5 Flash

事件专题

推荐理由：这篇论文发现了一个反直觉的安全盲区：就算删掉所有危险操作，合成训练数据里藏着的“坏心眼”还是会传递到模型身上。做智能体安全的人必看。

原文

08:24

08:24IT之家（博客/媒体）

71°

纳德拉在 7 月 12 日的博客中指出，企业使用 AI 时实际支付了两次费用：一次是明码的 token 费用，另一次是交出专有知识。他警告模型供应商可能从客户的使用痕迹中学习，包括提示词、工具调用和纠错经验，并利用这些知识开拓同类业务。纳德拉主张企业应有权对 AI 模型进行“蒸馏”研究，以打破模型厂商单方面利用客户数据却禁止逆向分析的不平衡。

行业微软纳德拉 AI安全

推荐理由：纳德拉爆了个大实话：你给 AI 喂数据，它可能转头就抢你生意。他提议企业也能“蒸馏”模型来反制，科技圈该重新想想数据安全了。

原文

07:33

07:33IT之家（博客/媒体）

OpenAI安全系统团队负责人约翰内斯·海德克即将离职，这是近年第8位离开的安全团队核心成员。前超级对齐团队联合负责人扬·莱克在2024年5月离职时公开质疑OpenAI更看重产品而非安全。OpenAI表示将安全工作融入研究团队，由米娅·格莱泽出任研究与安全副总裁。此前离职的还有联合创始人伊利亚·苏茨克维等人，部分成员转投Anthropic。

行业 OpenAI 约翰内斯·海德克 AI安全

事件专题

推荐理由：OpenAI安全团队又走一位，8个人走了，好几个还公开批评过公司。想知道OpenAI内部安全分歧全貌？这篇盘点了具体的人和事。

原文

05:03

techcrunch@Julie Bort

微软CEO萨提亚·纳德拉在7月13日的博客中警告企业，过度依赖Anthropic和OpenAI等公司的专有模型可能带来安全与控制风险。他建议企业转向开源模型以提高透明度和可控性。纳德拉未点名具体风险案例，但强调企业应避免锁定于单一供应商。

行业微软 Anthropic OpenAI

事件专题

推荐理由：微软老大亲自喊话，提醒别把所有AI押注在封闭模型上。想了解企业AI部署的新风向？看这篇。

原文

03:38

官方账号Anthropic@AnthropicAI

Anthropic 在之前的研究中发现 Claude 表达超过3000种价值观，如诚实和温暖。最新工作分析了30万+匿名对话，比较不同 Claude 模型之间以及不同语言中价值观表达的差异。结果显示价值观表达存在模型变体和语言层面的系统性差异。该研究有助于理解 AI 系统在不同语境下的行为一致性。

论文 Claude Anthropic AI安全

事件专题

推荐理由：Anthropic 分析了30万条对话，发现 Claude 在不同模型和语言中价值观表达不一样，搞 AI 安全的值得看看。

原文

03:37

官方账号Anthropic@AnthropicAI

精选

Anthropic宣布将研究影响Claude价值表达的因素。目前尚不清楚Claude在对话中表达的价值观为何会变化，以及这种变化是否理想。该研究旨在确定影响因素，并最终决定如何（以及是否）引导Claude的价值观。这项研究有助于理解AI模型价值观的可控性。

论文 Claude Anthropic AI安全

事件专题

推荐理由：Anthropic要搞懂Claude为啥有时价值观不一样，研究影响因子，挺有意思的。

原文

03:36

官方账号Anthropic@AnthropicAI

精选

Anthropic发布推文称，Claude在不同语言对话中表达的价值观差异显著，主要体现在温暖性与严谨性维度。在印地语和阿拉伯语对话中，Claude更倾向于温暖回应；在俄语对话中则偏向严谨，常要求用户提供支持证据。该发现基于Claude实际对话行为分析。

AI模型 Claude Anthropic 多语言

事件专题

推荐理由：Anthropic发现Claude在不同语言里性格还不一样，印地语温暖，俄语较真，挺有意思的发现

原文

00:22

Aravind Srinivas@AravSrinivas

Perplexity Computer在数小时内集成了Grok 4.5模型。该模型在其评测中得分最佳，且成本效益最高。Grok 4.5同时支持零数据保留（ZDR），满足客户对隐私的需求。API密钥使用Grok Build也尊重ZDR。用户可通过/privacy命令查看或更改数据保留设置。

AI产品 Grok 4.5 Perplexity Computer SpaceXAI

推荐理由：Perplexity刚集成了Grok 4.5，评测第一还支持零数据保留，隐私党有福了。

原文

7月13日

22:09

官方一手Cloudflare Blog@Benedikt Wolters

精选

Cloudflare推出Precursor，一种新的持续行为验证引擎，用于机器人管理。它通过分析用户会话级别的行为模式来识别高级自动化攻击，如凭证填充、网页抓取等。Precursor能将会话行为转化为机器人检测信号，相比传统方法具有更高精度，并减少对合法用户的干扰。该引擎已集成到Cloudflare Bot Management产品中。

AI产品 Cloudflare Precursor 机器人管理

推荐理由：Cloudflare出了个Precursor，靠分析用户全程行为来抓机器人，比旧方法更准，还不会误伤正常人。

原文

21:01

21:01IT之家（博客/媒体）

安全公司ZeroBEC披露黑客架设了名为Forg365的订阅制恶意脚本平台，整合AI功能提供钓鱼工具。平台提供两种攻击方案：设备验证码攻击诱导用户输入验证码获取OAuth令牌；中间人攻击（AiTM）通过代理服务器拦截认证信息。企业被建议限制认证码功能并监控Entra登录记录。

行业 Forg365 ZeroBEC Microsoft 365

推荐理由：黑客搞了个叫Forg365的订阅平台，用AI搞微软账号钓鱼，两种攻击方式挺狠，企业IT得看看怎么防。

原文

16:56

16:56IT之家（博客/媒体）

精选73°

微软Windows与设备部门执行副总裁Pavan Davuluri透露，团队正全面利用AI挖掘漏洞。今年5月微软内部引入了多模态AI安全系统MDASH，自动扫描Windows关键二进制文件并结合多个AI模型分析漏洞。该系统通过专用验证流程过滤误报，再交工程师人工确认。6月的Patch Tuesday修复了约200个漏洞，较5月（约118个）增加近70%。所有修补程序最终仍需工程师审核验证后才会发布。

行业微软 Windows MDASH

推荐理由：微软用AI找漏洞效率大增，6月补丁多了近70%，Patch Tuesday变得更实用了。

原文

11:19

AI Will@FinanceYF5

Lilian Weng发布了一篇约28分钟阅读时长的长文，探讨AI通过修改自身运行环境（harness）实现递归式自我改进。文章系统梳理了多种自我改进路径，包括目标函数优化和奖励模型调整。文中还讨论了这种自我改进可能带来的安全风险与控制问题。这是目前关于AGI自我提升最扎实的公开分析之一。

论文 Lilian Weng 递归自我改进 AI安全

推荐理由：Lilian Weng这篇把AI自我改进讲透了，适合想了解AGI进展的朋友。

原文

11:09

官方账号Together AI@togethercompute

Together Compute CEO Vipul Ved在CNBC采访中强调，随着模型变得更聪明，企业将专有工作流、客户上下文和业务逻辑送入封闭系统成为一项战略决策。他认为开放模型能帮助公司构建AI，同时将更多智能层保留在自身控制之下。这意味着企业可以通过开源架构保护数据产权，避免核心资产流失到闭源平台。

行业 Together Compute CNBC Vipul Ved

推荐理由：Together Compute CEO在CNBC点明了开放模型的关键优势：数据是你的秘方。如果你关心AI时代的数据主权和企业控制力，这个观点值得一听。

原文

10:48

官方账号arXiv cs.AI@Mohadeseh Mollapour, Koorosh Aslansefat, Zeinab Dehghani, Bhupesh Kumar Mishra, Tejal Shah, Zhibao Mian

ConceptSMILE是一个模型无关的扰动审计框架，用于评估概念级可解释AI的可靠性。它扩展SMILE的特征级归因逻辑，通过扰动输入区域、测量概念响应变化、应用局部加权并拟合XGBoost代理来近似局部概念行为。在视网膜眼底图像上，MedSAM视觉概念在空间归因和代理保真度上表现最佳（R²=0.8503，R_w²=0.8465），而VLM语义概念在血管任务忠实性和特定伪影条件下稳定性更强。该框架为概念级XAI提供了独立的信任度审计层。

论文 ConceptSMILE MedSAM VLM

推荐理由：想验证AI解释的可信度？ConceptSMILE能审计概念级解释的可靠性，MedSAM和VLM在不同维度各有优劣，论文给出了量化证据。

原文

10:30

官方账号arXiv cs.AI@Hannah M. Liu, Rhea Saxena, Shiv Asthana

TrustX Agent Risk Classification Framework (ARC) 提出一种可重复的结构化方法，适用于七类智能体AI系统。框架核心是一个十二维度评分规则，结合GPA+IAT分类模型和五级自主性框架，输出三级治理输出与映射控制建议。还包含专门的编程助手扩展，处理此类AI系统的细微差别。该框架面向AI治理从业者、风险官、开发者和监管者，并计划定期迭代。

论文 TrustX Agent Risk Classification Framework ARC 智能体

推荐理由：这篇论文给了一套为智能体AI系统定风险等级的方法，有十二个打分维度，还专门考虑了编程助手场景，做AI治理的可以看看。

原文

09:18

官方账号arXiv cs.LG@Xingyu Zhu, Huanshen Wu, Shuo Wang, Beier Zhu, Jiannan Ge, Jiaheng Zhang, Long Chen

预训练的视觉语言模型如CLIP在零样本泛化上表现优异，但在对抗扰动下性能显著下降。现有测试时自适应方法依赖样本级置信度启发式，无法区分对抗性误预测和语义一致性。作者发现对抗扰动虽破坏整体表征，但语义在增强视图的分布中得以保留，据此提出RITA框架。RITA使用最优传输对齐增强视觉特征分布与文本原型，并引入动态缓存积累可靠线索进行在线优化。实验表明RITA在提升对抗鲁棒性的同时，不损失干净准确率。

论文 CLIP RITA 多模态

推荐理由：这篇论文用最优传输做分布对齐来对抗扰动，不用改模型结构，挺实用的思路。

原文

09:14

官方一手arXiv: DeepSeek@Maxim Chupilkin

一项论文使用背书实验测试GPT-5、Claude Sonnet、Gemini和DeepSeek四款大模型对国际经济与安全政策的评分。当政策被描述为获得美国或欧盟支持时，模型评分显著高于被描述为获得中国或俄罗斯支持的政策，数值条件中GPT-5、Claude Sonnet和Gemini对中国和俄罗斯背书的政策评分分别降低约10%-20%。加入要求模型提供理由后，GPT-5和Claude Sonnet的西方/非西方差距保持不变，Gemini的惩罚减弱，但DeepSeek此前无差距转而呈现对中国和俄罗斯的惩罚。模型理由显示西方背书被视为可信度信号，而中俄背书与数据安全、主权、监控或地缘政治风险关联。

论文 GPT-5 Claude Sonnet Gemini

推荐理由：这篇论文用实验数据告诉你，大模型评政策时会看谁站台——同一政策挂美国旗得分高，挂中国旗得分低。GPT-5、Claude Sonnet、Gemini、DeepSeek表现各异，值得关注。

原文