#指令遵循

共 7 条 · 7 天 0 条 · 30 天 0 条

信息流里打上「指令遵循」标签的资讯、产品与论文，按刊登时间排，新的在上。

10月12日

Gary Marcus 转发并吐槽了一件事：给 AI 写条“别伤害人”的规则它都执行不稳，他说这个被低估的风险早晚会出事。

Gary Marcus@GaryMarcus原文

9月29日

清华新方法让小模型在复杂指令任务上超越大模型，开源代码和数据已公布。

arXiv: DeepSeek@Bosi Wen 等 6 人原文

9月1日

论文精选09:20

这篇论文揭示了AI模型在隐藏指令披露上的不对称行为，对AI安全和监督机制设计有重要启示。

arXiv: DeepSeek@Zimo Shi 等 3 人原文

8月27日

SciMIF基准为评估MLLMs在科学领域的指令遵循能力提供了新工具，揭示了不同学科间的性能差异，对科学研究和MLLMs发展具有重要意义。

arXiv cs.LG@Ye Shen 等 7 人原文

8月18日

Gary Marcus直接点出AI不听指令比幻觉更危险，还引用了越具体越不听话的现象。想了解AI安全风险，看这条。

Gary Marcus@GaryMarcus原文

7月1日

这篇论文告诉你，用模型自己问自己生成的问答数据来训练模型，可能会引入隐蔽的偏见和指令注入风险。他们用一个简单方法就能把问题率从88%压到13%，值得做数据合成的同学看看。

arXiv cs.AI@Ekaterina Alimaskina 等 6 人原文

6月4日

对提示词长度和复杂度不敏感，做内容生成或创意设计的团队可以试试，能省去反复调优提示词的麻烦。

Justine Moore@venturetwins原文