AITOPAI热报

DeepSeek-V3.1

共 4 条相关 AI 资讯
8月25日
10:07
10:07官方一手arXiv: DeepSeek@Renfei Zhang, Niloofar Mireshghallah
使用可验证奖励的强化学习（RLVR）用于提升模型推理能力，但其对模型泄露信息的影响研究不足。研究发现，在良性事实数据上应用RLVR会提高模型提取已记忆的个人信息（PII）。在DeepSeek-V3.1上，针对姓名-电子邮件对的精确召回率从0.155提升到0.370，增幅达2.4倍。模型大小与泄露程度成正比，在参数量最大的模型上泄露最严重。同时，模型推理能力和拒绝率保持不变，表明RL只是选择性地改变可访问的已记忆信息，而非全面改变。通过从未接触过的训练提升可提取的个人信息，为攻击者提供了获取记忆数据的途径，无需隐私相关的训练信号和数据访问权限，只需具备微调无害数据的能力。
论文DeepSeek-V3.1个人信息泄露强化学习
推荐理由：这项研究揭示了强化学习在良性事实上的应用可能带来的个人信息泄露风险，值得对AI模型安全性和隐私保护进行深入探讨。
原文
7月15日
09:46
09:46官方一手arXiv: DeepSeek@Jincheng Xie, Runheng Liu, Heyan Huang, Yawen Ling, Hanbin Dai, Yu Zheng, Wen Hu
精选
稀疏混合专家（MoE）模型在扩展LLM时依赖专家激活模式，现有投机解码忽视专家激活成本，导致专家散射增加内存流量。EcoSpec通过轻量级专家预测器和动态专家缓冲区，在保持高接受率前提下优先复用了当前验证集的专家路径。在DeepSeek-V3.1（671B）、Qwen3-235B-A22B、GPT-OSS-120B三个大规模MoE模型上，于推理、编码、问答和对话基准测试中，EcoSpec持续减少活跃专家足迹，最高实现1.62倍解码速度提升。
论文EcoSpecMoE投机解码
推荐理由：这篇论文提出EcoSpec，在DeepSeek-V3.1等MoE模型上通过成本感知投机解码最高提速1.62倍，值得关注。
原文
7月14日
11:02
11:02官方一手arXiv: DeepSeek@Cedric Waterschoot, Nava Tintarev, Francesco Barile
该论文研究如何让LLM根据群体内偏好分布（如少数派或联盟）动态选择最佳聚合策略。研究人员从DeepSeek-V3.1蒸馏出推理数据，并基于人类真实评估微调出Judgmental Llama和Judgmental OLMo模型。提出的管道先生成多个推荐候选，再通过模型预测人类评价来动态选择最优方案。在284人参与的用户研究中，该方法在满意度和群体共识上取得最高分，且LLM判断与人类感知高度对齐。
论文DeepSeek-V3.1Judgmental LlamaJudgmental OLMo
推荐理由：如果你想用LLM做群体推荐，这篇论文给出了一个基于微调和动态策略选择的新方案，284人的实验验证比传统方法更让人满意。
原文
6月29日
10:06
10:06官方一手arXiv: DeepSeek@Avni Mittal
研究者将狼人杀游戏扩展为三方博弈，加入Jester角色，其获胜条件是被投票出局，与狼人和村民的效用函数完全相反。在GPT-4.1、DeepSeek-V3.1和Llama-3.3-70B上进行了60局测试，Jester胜率达60-70%，狼人胜率从未超过20%。GPT-4.1控制的狼人常在第一天投票出Jester，构成严格的自毁行为。自学习机制对DeepSeek和Llama有帮助，但对GPT-4.1有害，且成本落在村民而非狼人身上。只有DeepSeek学会了看起来可疑但不故意可疑的微妙策略，在自循环中获益最大。
论文GPT-4.1DeepSeek-V3.1Llama-3.3-70B
推荐理由：这篇论文让AI玩三方狼人杀，发现GPT-4.1狼人总犯傻投票出Jester，而DeepSeek学会了装可疑又不露馅。想看看AI怎么玩心眼？读它。
原文