论文官方一手
鲁棒对抗输入:多视角欺骗神经网络
精选理由
对AI安全研究和自动驾驶系统开发者极具警示意义,表明多模态感知并非对抗防御的万能药。
OpenAI创建了能在不同尺度和视角下可靠欺骗神经网络分类器的图像,挑战了之前认为多视角采集使自动驾驶难以被恶意攻击的观点。这些对抗性输入可在物理世界稳定生效,揭示了现有视觉模型的脆弱性。
对AI安全研究和自动驾驶系统开发者极具警示意义,表明多模态感知并非对抗防御的万能药。
OpenAI创建了能在不同尺度和视角下可靠欺骗神经网络分类器的图像,挑战了之前认为多视角采集使自动驾驶难以被恶意攻击的观点。这些对抗性输入可在物理世界稳定生效,揭示了现有视觉模型的脆弱性。
Anthropic 自己员工的说法:六成人说 AI 已经把合适任务的活儿干得只用原来四分之一时间,还预测五年后七成五工时交给 AI。
Google Research 开源的智能体框架,没标准答案也能自动改 harness,弱模型换上后能追平强模型的基础分,代码已开放。
Anthropic 自家员工说 2030 年 AI 能干掉自己 75% 的活,比美国大众的 28% 乐观太多,这个认知差距本身就很说明问题。