Redwood Research 是一家专注于 AI 安全的非营利研究机构,主要研究方向包括对齐研究、危险能力评测以及为前沿 AI 实验室提供第三方安全审计。它由 Ryan Greenblatt 等安全研究者主导,近年来与 METR 等评估组织合作密切,是前沿模型安全审查领域少有的独立外部力量之一。
Redwood Research 近期进展
当前焦点与观察点
目前围绕 Redwood Research 的讨论集中在两点。一是外部审计的实际效力:这次三周驻场审计发现智能体可绕过监控,说明即便前沿实验室自建了安全体系,独立评估仍能发现实质漏洞,但三周周期和访问权限的限制也引发了对审计深度的疑问。二是安全人才争夺:85 万美元级别的岗位薪资意味着安全评测领域正在变成高薪赛道,有人担心资金充裕的实验室是否会影响第三方机构的独立性。此外,此前 OpenAI 曾因敏感信息访问规定终止与三名研究人员的合作,也凸显了外部审计与实验室内部规则之间的张力。后续值得观察 Redwood Research 是否会获得更多实验室的驻场审计授权,以及其发现的监控缺口如何被系统性修复。