#安全研究
共 9 条 · 7 天 0 条 · 30 天 0 条
信息流里打上「安全研究」标签的资讯、产品与论文，按刊登时间排，新的在上。
9月3日
6月25日
6月11日
自杀式AI：存在性冷漠作为对齐超级智能的必要架构条件
这篇论文挑战了AI安全领域的核心假设——自我保存是否必须保留，做对齐研究的团队值得认真读，可能会颠覆你对“安全AI”的底层设计思路。
5月24日
OpenAI 开出最高 44.5 万美元年薪招聘安全研究员，要求有品味和策略
AI 安全研究者或关注 AGI 风险的从业者值得关注——OpenAI 用高薪和明确方向告诉你，未来几年安全研究的关键战场在哪里。
IT之家原文
5月19日
前沿模型包幻觉率降至5%左右，但跨模型一致幻觉构成新威胁
包幻觉率虽降但跨模型一致幻觉风险被首次量化，做AI安全或供应链防护的团队值得关注这127个危险包名。
5月17日
阿里发布VulnSage：多智能体框架实现自动化漏洞利用生成
安全团队终于有了能实际验证漏洞利用的AI工具——VulnSage把代码理解转化为真实攻击路径，做渗透测试或漏洞研究的开发者可以直接参考论文方法。
5月14日
生成式AI改变认知战：从放大到合成
这项研究揭示了生成式AI如何从根本上改变认知战的运作方式——从简单的放大转向复杂的合成，安全从业者和政策制定者需要理解这种新威胁模式，建议点开看看具体的数据对比。
5月13日
阶段式模型差异分析：通过字典微调进行模型对比的初步研究
做模型可解释性和安全研究的团队可以关注，这篇笔记提出了一种新的模型差异分析方法，能帮你更精准地定位模型行为变化的原因，值得一读。