全部动态

这篇论文用实验告诉你，临床AI回答EHR问题时，推理步骤越多越容易翻车。Claude、GPT-4o和GPT-5.4都逃不过，部署前得重点防多步推理。

一篇教你如何让AI智能体更聪明的研究：不用改权重，光靠整理技能库就能让DeepSeek-V3和GPT-4.1冲上榜单第一，方法还开源了。

代码安全团队和开发者面临LLM分析带来的知识产权泄露风险，Acoda提供了一种实用的防御手段，建议关注其混淆方法如何平衡安全性和代码可用性。

这项研究揭示了LLM在跨语言场景下的行为偏差可能影响外交决策，做AI安全或国际关系应用的团队值得关注，尤其是使用多语言模型的开发者。

手机智能体开发者终于有了能测试个性化能力的基准——iOSWorld要求模型理解用户身份与历史，而非仅执行孤立指令，做移动端AI Agent的团队值得关注。

做 AI 社会影响研究或产品策略的团队，这篇论文提供了用社交媒体数据实时监测公众情绪的方法论，比传统调查更及时，值得参考。

做Agent系统或API设计的开发者，这个方案直接解决了Agent调用API时频繁失败、需要人工介入的痛点——用结构化建议代替自然语言错误，让Agent自己就能修复重试，实测效果显著，建议直接参考其设计思路。

基准测试的排名可能因语义改写而失真，做模型评估或选型的团队值得关注——你的排名可能选错了赢家。

这项研究揭示了LLM作为攻击者的行为规律和可靠性差异，做AI安全评估或红队测试的团队值得关注——它告诉你不同模型在真实攻击场景下的稳定性和失败模式，直接指导模型选型和防御策略。

这篇论文戳穿了AI暂停条约的技术漏洞——分布式训练让监管形同虚设，做AI治理、安全研究的团队值得细看，看完会对现有方案的有效性重新评估。

Marc Andreessen@pmarca原文

医疗AI开发者需要注意：你的模型在非英语场景下可能掉链子，o3是唯一不受语言影响的例外。做多语言临床决策支持的团队，这篇论文值得细读。

竞争编程开发者终于有了一个能可靠迭代的 AI 助手——A-ProS 通过多模型反馈将 GPT-5 的初始通过率提升 2 倍以上，做算法竞赛或自动化代码生成的团队可以直接参考其架构设计。

AI研究者或实验设计者注意了：模型版本差异可能显著影响结论，使用最新智能体工具能放大效果，建议在论文中明确标注模型版本。

Ethan Mollick@emollick原文

做自动化科研或 AI 辅助创新的研究者，可以试试用引文关系图替代静态检索来激发 LLM 的创意，GoR 直接开源了数据和微调方法。

这篇论文揭示了 LLM 推荐中的赞助偏见，并提供了一个极简的对抗方法——用 30 token 提示词就能大幅降低推荐偏差。做 AI 安全、推荐系统或 LLM 应用的开发者值得一看，可以直接复现实验。

做AI安全和对齐的研究者、模型微调工程师值得关注——这项研究用两个量化指标揭示了有害微调如何让模型角色扮演能力崩溃，比单纯看输出内容更早发现问题。建议点开看看指标计算方法。

这个发现戳穿了微调中“加否定声明就能纠正模型”的幻觉，做安全对齐或数据清洗的团队必须警惕——你的训练数据里那些“假新闻”可能正在反向教坏模型。建议所有做微调的人点开看看，避免踩坑。

安全工程师和渗透测试人员可以借鉴RADAGAS和RefleXQLi的思路，自动化生成对抗性SQL注入payload来评估自家WAF的盲区，尤其是AI/ML型WAF的脆弱点值得重点关注。

做LLM微调的团队终于有了避免“突发性错位”的实操指南——早期停止就能保留93%性能，建议所有做安全对齐的工程师点开看看具体阈值。