AITOPAI热报

大模型

共 136 条相关 AI 资讯 · 查看话题观测
9月3日
10:15
10:15官方账号arXiv cs.AI@Luca Migliaccio, Roberto Natella, Naghmeh Ivaki, Nuno Laranjeiro, Marco Vieira
精选73°
研究人员提出使用大模型自动向Solidity智能合约注入漏洞的方法。该方法针对OpenSCV的49种漏洞类型进行测试，从SmartBugs真实合约生成近1000个候选变体。经去重和验证后，确认32个包含25种漏洞类型的合约（存活率16.58%）。研究团队使用这些合约评估了三种静态分析工具，揭示了它们互补且不完整的覆盖特性。
论文智能合约大模型漏洞检测
推荐理由：论文展示用大模型自动生成带漏洞的智能合约，帮助测试安全工具，发现现有分析工具的局限性。
原文
09:12
09:12官方账号arXiv cs.LG@Xixiang He, Xingming Li, Baiqi Wu, Qiyao Sun, Xuanyu Ji, Ao Cheng, Qingyong Hu
精选73°
研究人员提出MT-SDPO方法，通过自我锚点、答案验证资格和特权蒸馏三个组件整合多个冻结教师模型。该方法在Qwen3-8B模型上测试，将最弱领域性能提升14.79点，领域差距缩小74.7%。代码已在GitHub开源，地址为https://github.com/hexixiang/MT-SDPO。
论文MT-SDPOQwen3-8B多教师蒸馏
推荐理由：MT-SDPO方法让每个样本选择最可靠的教师，而非按领域匹配，大幅提升多领域大模型性能。
原文
9月2日
15:24
15:24量子位@量子位的朋友们
蚂蚁集团推出统一宽表系统OmniTable，论文获评VLDB 2026工业赛道最佳论文。该系统可处理35PB语料，数据清洗效率提升5.6倍。OmniTable解决了大模型训练数据预处理难题，大幅降低了人工清洗成本。
论文OmniTableVLDB蚂蚁集团
推荐理由：蚂蚁这套宽表系统能一次性处理35PB语料，效率提升5.6倍，再也不用为洗数据熬夜了。
原文
10:47
10:13
10:13官方账号arXiv cs.LG@Jingtan Wang, Arun Verma, Xiaoqiang Lin, Zhengyuan Liu, Nancy F. Chen, Daniela Rus, Bryan Kian Hsiang Low
精选73°
研究解决了大模型后训练中监督微调(SFT)与强化学习(RL)的标注预算分配问题。该研究提出了近最优区域概念，即使在2-10%的小容忍度下，该区域也很宽。研究发现近最优区域随模型规模扩大而变宽，并能从小代理模型可靠转移到大型目标模型。研究结果在不同任务、模型家族和基于偏好的离策略与基于奖励监督的在策略RL方法中保持一致。
论文SFTRL大模型
推荐理由：研究人员发现小模型实验就能确定可转移的近最优区域，无需大规模搜索，大幅降低大模型训练成本。
原文
9月1日
10:16
09:22
06:53
8月31日
23:32
20:51
16:17
13:46
11:43
09:16
8月29日
00:32
8月28日
23:16
20:21
20:21官方账号arXiv cs.LG@Dezheng Han, Anbang Zhang, Zhihao Zhu, Shuaishuai Guo
精选73°
研究人员提出FiUni框架，用于批级别任务检测和参数高效持续适应。该框架基于预训练模型的Fisher信息矩阵K-FAC近似的主子空间正交性观察，能反映不同任务间的相似性。FiUni构建FIM衍生的冻结子空间引导LoRA适配，同时匹配每个传入批窗口的Fisher主子空间与历史子空间。实验显示FiUni能有效推断潜在批级别任务关联，并在更少可训练参数下达到与先进任务感知CL方法相当的性能。
论文FiUni持续学习Fisher信息矩阵
推荐理由：清华团队提出FiUni框架，用Fisher信息矩阵解决无任务持续学习，比传统方法更高效。
原文
8月27日
12:58
8月22日
16:33
8月21日
18:05
16:09
16:09官方一手Pandaily@contact@pandaily.com (Pandaily)
精选
小红书发布自研大模型dots3-note，MoE模型，总参数280B，激活参数16B，512K上下文，支持文本、视觉和语音理解。以Apache 2.0协议在Hugging Face和GitHub上开源，华为Ascend零延迟适配，标志着月活跃用户超3亿的平台上，AI从功能转变为基础。
AI模型小红书大模型MoE模型
推荐理由：小红书开源自研大模型，支持多模态理解，与华为Ascend深度适配，为内容平台构建AI基础，值得关注。
原文
10:15
10:15官方账号arXiv cs.AI@Mengru Wang, Haozhe Luo, Zhenqian Xu, Zhixiang Cui, Haoming Xu, Qu Yang, Jizhan Fang, Junfeng Fang, Ningyu Zhang
研究人员提出 MemTrapBench 基准，用于评估大模型记忆使用中的认知陷阱。该基准涵盖 Reasoning Fixation 和 Belief Distortion 两种陷阱形式。实验显示，在两个模型家族和五种代表性记忆框架上，所有记忆策略的表现均不如无记忆设置，最强方法性能下降超10%。为缓解这些陷阱，研究者提出 AdaptiveMem 方法，可在推理时指导模型避免记忆陷阱。
论文MemTrapBenchAdaptiveMem认知陷阱
推荐理由：有人做了个叫 MemTrapBench 的基准，专门测大模型记忆里的认知陷阱。他们发现，记忆反而会拖累模型表现，连最好的方法都掉10%以上。他们还搞了个叫 AdaptiveMem 的方法来解决这个问题。
原文
8月20日
10:18
10:18官方账号arXiv cs.AI@Tate Berenbaum, Muthaiah Venkatachalam
Intel AI PC集群通过管道分片技术，将Llama 3.1 8B参数模型拆分为预编译分片，实现分布式推理；采用INT4量化后，两节点部署下同时服务两个用户，吞吐量达到单机未拆分模型的1.79倍；四节点部署可支持70B参数模型推理，单用户交互速度流畅且与全节点解码效果一致。
AI模型Llama 3.1Intel AI PC大模型
推荐理由：Intel推出了在AI PC集群上实现大规模LLM分布式推理的片方法，能让集群共同计算超单台容量的模型，和单机相比效率更高。
原文
10:12
10:12官方账号arXiv cs.LG@Joy Jia Yin Lim, Xin Huang, Hao Peng, Yaxi Lu, Xin Cong, Zhong Zhang, Maosong Sun, Yankai Lin
针对大型语言模型（LLM）后训练，研究发现其训练策略常锁定初始选择；分析公开数据后发现，训练预算多用于局部调整而非策略修订；干预实验显示，增加经验或指导仅提升执行效果，未改变策略；不同任务上的计算投入效果存在明显差异。
论文LLMGSM8KHumanEval
事件专题
推荐理由：OpenAI做了关于大模型后训练的研究，能分析训练策略问题，和以前方法比效果不一样。
原文
8月19日
11:45
00:21
8月18日
15:29
15:29官方账号arXiv cs.AI@Shihong Huang, Shengjie Wang, Hong Ma, Zhou Xu
RLCascadeRouter提出了一种无需质量估计器的级联路由框架，将路由问题建模为马尔可夫决策过程，动作包括停止和模型选择。该方法直接优化性能-成本目标，避免了传统预测-优化流程中预测误差与决策损失不一致的问题。在包含13个LLM的10个LLMRouterBench基准上，RLCascadeRouter优于强基线，实现了更优的性能-成本权衡。它还能无需重训练地纳入未见模型，消融研究验证了策略组件的有效性。
论文RLCascadeRouterLLMRouterBench强化学习
推荐理由：如果你在多个大模型间做路由，这个框架能直接优化成本和效果，不用先预测质量，实测在10个基准上超过现有方法，还能兼容新模型。
原文
8月12日
17:32
8月11日
19:04
11:55
11:55官方账号arXiv cs.AI@Laurens Samson, Iva Gornishka, Gossa Lô, Yuki M. Asano, Sennay Ghebreab
荷兰研究者提出“Grip on LLMs”评估框架，针对政府场景的荷兰语大模型。该框架涵盖事实性、诚实性、社会偏见、能耗、成本和训练数据透明度六个维度，测试了30多个多语言及荷兰语专用模型。结果显示没有模型在所有维度上表现最佳，高质量模型通常伴随更高能耗和成本，而偏见与两者无关。事实性和诚实性由不同属性决定，高事实性不意味着高诚实性。研究团队发布了面向非技术用户的公开模型概览。
论文Grip on LLMs荷兰语评估基准
推荐理由：荷兰政府项目组做的评估框架，测了30多个模型，告诉你哪个模型在事实性、能耗、成本上表现如何，选型时直接参考。
原文
8月5日
16:26
16:26官方一手Pandaily@contact@pandaily.com (Pandaily)
腾讯通过WorkBuddy、Tencent Design Miora和TokenHub三个平台向国际市场开放旗舰Hy3大模型。WorkBuddy上的Hy3模型免费使用截止到2026年8月31日。该模型是腾讯在AI领域的重要布局，此次国际开放旨在扩大其全球影响力。
AI模型Hy3腾讯WorkBuddy
事件专题
推荐理由：腾讯把Hy3模型放到国际上了，WorkBuddy上免费用到8月底，想试试国产大模型的可以去玩。
原文
7月31日
12:11
12:11官方一手arXiv: DeepSeek@Minghao Hu, Lannan Luo, Allen Roush, Phillip Howard
CoGate是一种针对大模型代码生成安全问题的置信度门控协同解码方法。它通过结合小型安全专家模型与目标模型，根据专家模型的置信度控制其影响，避免在未见模式或分布外场景下产生误导。研究在CodeGen、DeepSeek-Coder、Qwen-Coder和StarCoder等多个后端上进行了评估，覆盖HumanEval、安全套件和CWEval基准。相比现有协同解码方法CoSec+，CoGate在CWEval上实现了高达12.6%的Func-Sec@10提升。
论文CoGateCoSec+代码生成
推荐理由：这篇论文提出了CoGate，让安全专家模型在没把握时少掺和，代码生成更安全，比CoSec+最高提升了12.6个百分点。
原文
7月30日
11:54
7月28日
17:23
7月27日
17:08
7月23日
09:46
7月21日
11:34
7月20日
20:36
7月18日
23:09
13:42