全部动态

这项研究揭示了LLM作为攻击者的行为规律和可靠性差异，做AI安全评估或红队测试的团队值得关注——它告诉你不同模型在真实攻击场景下的稳定性和失败模式，直接指导模型选型和防御策略。

这篇论文戳穿了AI暂停条约的技术漏洞——分布式训练让监管形同虚设，做AI治理、安全研究的团队值得细看，看完会对现有方案的有效性重新评估。

Marc Andreessen@pmarca原文

医疗AI开发者需要注意：你的模型在非英语场景下可能掉链子，o3是唯一不受语言影响的例外。做多语言临床决策支持的团队，这篇论文值得细读。

竞争编程开发者终于有了一个能可靠迭代的 AI 助手——A-ProS 通过多模型反馈将 GPT-5 的初始通过率提升 2 倍以上，做算法竞赛或自动化代码生成的团队可以直接参考其架构设计。

AI研究者或实验设计者注意了：模型版本差异可能显著影响结论，使用最新智能体工具能放大效果，建议在论文中明确标注模型版本。

Ethan Mollick@emollick原文

做自动化科研或 AI 辅助创新的研究者，可以试试用引文关系图替代静态检索来激发 LLM 的创意，GoR 直接开源了数据和微调方法。

这篇论文揭示了 LLM 推荐中的赞助偏见，并提供了一个极简的对抗方法——用 30 token 提示词就能大幅降低推荐偏差。做 AI 安全、推荐系统或 LLM 应用的开发者值得一看，可以直接复现实验。

做AI安全和对齐的研究者、模型微调工程师值得关注——这项研究用两个量化指标揭示了有害微调如何让模型角色扮演能力崩溃，比单纯看输出内容更早发现问题。建议点开看看指标计算方法。

这个发现戳穿了微调中“加否定声明就能纠正模型”的幻觉，做安全对齐或数据清洗的团队必须警惕——你的训练数据里那些“假新闻”可能正在反向教坏模型。建议所有做微调的人点开看看，避免踩坑。

安全工程师和渗透测试人员可以借鉴RADAGAS和RefleXQLi的思路，自动化生成对抗性SQL注入payload来评估自家WAF的盲区，尤其是AI/ML型WAF的脆弱点值得重点关注。

做LLM微调的团队终于有了避免“突发性错位”的实操指南——早期停止就能保留93%性能，建议所有做安全对齐的工程师点开看看具体阈值。