#多轮对话

共 20 条 · 7 天 0 条 · 30 天 0 条

Agent Evaluation Metric 1 AI安全 1 Amazon 1 BLUEPRINT 1 GradSafe 1 IDSS 1 LLM安全 1 Qwen2.5-7B-Instruct 1

信息流里打上「多轮对话」标签的资讯、产品与论文，按刊登时间排，新的在上。

10月6日

论文 Agent 与开发者09:57

用强化学习教模型在信息不足时提出更有效的问题

一篇很实用的研究：教AI在信息不够时该怎么提问。用在图像生成上做了RL训练，真人实验里提问更少效果还更好，做对话产品的可以参考这套思路。

#强化学习 #图像生成 #提示词工程 #多轮对话

arXiv cs.AI@Pranav M R 等 4 人原文

10月2日

论文 Agent 与开发者10:47

TRACE方法提升多轮对话安全性

TRACE让大模型在多轮对话中也能保持安全，性能损失极小，代码已开源。

#TRACE #LLM安全 #多轮对话 #对齐技术

arXiv cs.AI@Fengpeng Li 等 6 人原文

9月30日

论文政策与合规09:16

梯度检测在多轮对话中的脆弱性研究

这篇论文揭示了梯度检测在多轮对话中的局限性，对AI安全研究人员和模型开发者有重要参考价值。

#GradSafe #越狱检测 #多轮对话 #Qwen2.5-7B-Instruct

arXiv cs.LG@Omar Sheta 等 4 人原文

9月11日

模型 Agent 与开发者官方一手00:07

亚马逊推出多轮对话智能体评估指标

亚马逊搞了个新东西，专门用来评估多轮对话的智能体，能帮你找出具体是哪个回合出错了，比以前的方法更细。

#Amazon #Agent Evaluation Metric #多轮对话

官方一手AWS Machine Learning Blog@Surafel Lakew原文

9月3日

论文精选10:00

世界观模拟增强多轮越狱攻击效果研究

这篇论文揭示了多轮越狱攻击的机制，提出了BLUEPRINT框架，能以最少查询次数实现高成功率攻击。

#BLUEPRINT #WORLDSIM #越狱攻击 #安全评估

arXiv cs.AI@Siyu Chen 等 6 人原文

8月18日

论文10:06

IDSS：面向用户中心多轮智能体的意图驱动情境追踪框架

不用微调，加一个显式情境状态就能让多轮智能体少做无效动作、记得关键事实，三个基准上八种模型都有效果提升。

#IDSS #智能体 #多轮对话 #约束建模

arXiv cs.AI@Meiling Tao 等 3 人原文

8月12日

论文18:08

ConVAWG：面向暴力侵害女性场景的检索增强合成对话生成框架

想研究敏感场景对话生成？ConVAWG 用检索增强和毒性控制，造出 6000 多轮高质量对话，还带详细元数据，值得一看。

#ConVAWG #合成对话生成 #检索增强 #暴力侵害女性

arXiv cs.AI@Chen Lyu 等 7 人原文

7月28日

模型00:03

EvoCode 评测：多轮智能体能否不破坏已有功能

想知道智能体在多轮对话里会不会越改越烂？EvoCode 用 26 个任务 227 轮测试，专门抓这种翻车现场。

#EvoCode #智能体 #评估基准 #多轮对话

Philipp Schmid@_philschmid原文

7月26日

模型02:52

LLaDA 2.2 成为首个可处理真实代理工作的扩散语言模型

可以把扩散模型当成真智能体用，规划工具自己纠错，解码还比自回归快，不试试？

#LLaDA #扩散语言模型 #智能体 #工具调用

elvis@omarsar0原文

7月14日

论文多源确认11:14

EYT-Bench：以人为中心的多轮对话新基准，解耦用户模拟、目标建模与评判

这篇论文提出了EYT-Bench，能更真实地测出LLM在多轮对话中的意图追踪能力。用16/17模型发现推理模式大幅提升长上下文准确率，值得关注。

#EYT-Bench #多轮对话 #基准测试 #推理模型

事件专题

arXiv: DeepSeek@Jinglan Gong 等 8 人原文

6月24日

论文12:08

多轮LLM对话中NFR评估的准确性与满意度

这篇论文用49个程序员和148个实例，实测了GitHub Copilot评估HIPAA合规NFR的准确度，发现开发者容易被带偏，但主动交互反而让人更满意。

#LLM #NFR #HIPAA #GitHub Copilot

arXiv cs.AI@Ali Pourghasemi Fatideh 等 5 人原文

6月17日

论文09:37

DiagFlowBench：评估语言模型处理偏离流程输入的诊断对话

DiagFlowBench这个新基准专门用来测语言模型在操作维护场景里，能不能识别用户问跑题的问题。10个模型测下来，差得挺大，而且那种看似合理但不对的答案最危险。论文值得一看。

#DiagFlowBench #诊断对话 #推理模型 #AI安全

arXiv cs.AI@Guillermo Gil de Avalle 等 4 人原文

模型中美对照03:58

GLM-5.2 (Max) 在 Text Arena 排名第25，部分子类别提升显著

智谱新模型 GLM-5.2 整体排名没变，但在专家问答和多轮对话上进步明显，写创意和医学内容更强了。

#GLM-5.2 #GLM-5.1 #智谱 #Text Arena

lmarena.ai@lmarena_ai原文

6月11日

论文10:07

信息增益衡量多轮对话语义进展：无需LLM评判的新指标

做对话系统评估的团队终于有了一个可复现、低成本的替代方案——无需调用大模型就能衡量对话的语义进展，建议做客服或问答系统的开发者试试这个指标。

#多轮对话 #语义进展 #信息增益 #评估指标

arXiv cs.LG@Paul He 等 3 人原文

6月5日

论文精选13:00

CogManip 基准测试：多轮对话中大模型的操纵行为风险

AI 安全研究者终于有了评估隐性操纵的专用工具——CogManip 覆盖 15 种策略、1000 个场景，做模型对齐和红队测试的团队可以直接拿来用。

#大语言模型 #AI安全 #心理操纵 #基准测试

arXiv: DeepSeek@Zeyang Yue 等 8 人原文

6月2日

论文12:04

HarmAmp & TrajSafe：应对LLM多轮对话中的危害放大

多轮对话中的危害放大是LLM安全部署的盲区，做AI安全或内容审核的团队可以关注HarmAmp基准和TrajSafe方案，直接用于评估和加固自己的模型。

#LLM安全 #多轮对话 #危害放大 #HarmAmp

arXiv cs.LG@Ruohao Guo 等 3 人原文

5月22日

产品精选08:06

DataboxHQ 用 LangSmith 评估多轮分析智能体 Genie

做多轮对话智能体的团队终于有了可落地的评估方案——LangSmith 帮 Databox 把 Genie 的对话质量量化了，建议做 AI 分析助手的开发者点开看看具体怎么做的。

#智能体 #评估框架 #LangSmith #数据分析

官方账号LangChain@LangChainAI原文

5月19日

论文精选72°14:03

低资源非洲语言多轮对话可越狱主流LLM，成功率最高83.6%

安全团队和LLM开发者需要警惕：多语言安全漏洞远未被堵住，低资源语言成为新的攻击面。建议立即检查自家模型的多轮对话安全机制。

#越狱攻击 #低资源语言 #多轮对话 #安全漏洞

arXiv: DeepSeek@Dylan Marx, Marcel Dunaiski原文

5月15日

论文精选11:06

Self-Recall Thinking提升多轮对话一致性，F1提升4.7%

做对话系统或客服机器人的团队，SRT解决了长对话中信息稀疏和一致性差的痛点，无需外部模块就能提升效果，值得在长上下文场景中试试。

#多轮对话 #一致性 #长距离依赖 #推理优化

arXiv cs.AI@Renning Pang 等 6 人原文

5月14日

产品多源确认15:02

小米MiMo多轮对话需保留推理内容，否则返回400错误

这个API变更直接影响使用小米MiMo模型的智能体开发者，尤其是多轮对话场景。如果你在用TRAE、Cursor等框架集成MiMo，建议立即检查代码，避免因缺失推理内容导致400错误和体验降级。

#小米MiMo #API变更 #智能体 #多轮对话

事件专题

xiaomimimo@XiaomiMiMo原文