#模型验证

共 7 条 · 7 天 0 条 · 30 天 3 条

信息流里打上「模型验证」标签的资讯、产品与论文，按刊登时间排，新的在上。

11月4日

Anthropic 做了个密码学工具 FlashProve，能验证回复是不是某模型生成的，权重都不用公开，现在是早期原型。

官方账号Decoder@Maximilian Schreiner原文

Anthropic 在做 FlashProve，让任何人都能验证一段 AI 回复到底出自哪个模型，防止冒名顶替。

techcrunch@Russell Brandom原文

Anthropic 开源了 FlashProve，普通 CPU 十几秒就能验证回复到底出自哪个模型，比之前的 VerInf 快太多，转售商糊弄不了人了。

rohanpaul_ai@rohanpaul_ai原文

10月2日

机器学习研究者必读，教你如何避免数据泄露陷阱，选择正确的验证方法。

arXiv cs.AI@Mehmet Baygin 等 3 人原文

9月30日

这篇论文揭示了AI思维链的不可靠性，即使答案正确，推理过程也可能存在缺陷。

arXiv cs.AI@Ratish Puduppully 等 6 人原文

6月23日

这篇论文提出一个好方法：用知识图谱加小模型自动修SysML v2语义错误，修复率飙到91%，相比传统编译器管不了语义错误，这招很实用。

arXiv: DeepSeek@Haitham Al-Shami 等 5 人原文

5月14日

论文精选13:26

安全关键AI系统（如自动驾驶、医疗诊断）的开发者需要量化模型对输入扰动的鲁棒性，XCount提供了一种高效且可扩展的敏感性分析工具，值得关注。

arXiv cs.LG@S. Akshay 等 5 人原文