15:44Gary Marcus@GaryMarcus精选Gary Marcus 在推文中批评纯 LLM 本质是自动补全,并以 Claude Code 为例指出近期进步来自引入符号技术和工具。他认为过去两年 AI 进展主要源于弥补纯 LLM 缺陷,而并非纯 LLM 本身。Marcus 强调理解进步来源才能进一步突破,核心是放弃纯 LLM 路线。行业GaryMarcusClaude CodeLLM推荐理由:马库斯怼纯LLM:进步靠符号AI原文稍后读已读值得跟进有用关注 GaryMarcus
12:14官方账号arXiv cs.AI@Augusto B. Corrêa, André G. Pereira, Jendrik Seipp精选本文提出一种属性引导的LLM程序合成方法,用于PDDL规划领域。传统方法依赖简单分数(如测试通过数)评估程序,缺乏失败原因反馈,导致大量无效生成和评估。新方法在程序违反形式化属性时立即停止评估,并返回具体反例,引导LLM修复。在10个规划域上的实验表明,该方法平均每个域生成程序数减少7倍,无需搜索即可解决更多任务,评估计算量降低数个数量级。该方法适用于任何存在可验证属性的问题,能显著降低成本并提升程序质量。论文程序合成LLM规划推荐理由:做AI规划或程序合成的团队,这篇论文提供了一种减少LLM调用次数、提升生成效率的实用方法——用形式化属性替代分数反馈,直接给反例引导修复,值得点开看看具体实现。原文稍后读已读值得跟进有用关注 程序合成
12:03官方账号arXiv cs.AI@Tahreem Yasir, Wenbo Li, Sam Gilson, Sutapa Dey Tithi, Xiaoyi Tian, Tiffany Barnes精选一项新研究评估了七个大型语言模型(LLM)在命题逻辑辅导中的诊断精度,使用知识图谱生成的10,836个解决方案-反馈对作为基准。结果显示,LLM在识别最优步骤上接近完美,但系统性地过度拒绝有效但次优的推理,并过度验证错误的解决方案——这正是自适应辅导最需要精准反馈的地方。这些失败在所有模型中一致出现,表明是架构限制而非信息不足。此外,准确诊断并不总能转化为可操作的反馈,揭示了诊断判断与教学效果之间的差距。研究建议,LLM更适合混合架构,由知识图谱模型负责诊断,LLM负责开放式引导和对话。论文LLM智能辅导系统教育AI推荐理由:做AI教育或智能辅导系统的开发者会发现,LLM在关键教学诊断上存在系统性盲区——它擅长确认正确,却搞不定“部分正确”和“错误”的微妙区分,这直接影响辅导质量。建议点开看看混合架构方案,或许能帮你避开部署中的坑。原文稍后读已读值得跟进有用关注 LLM
11:52官方账号arXiv cs.AI@Sarah Martinson, Michael P. Brenner, Martyna Plomecka, Brian P. Williams, Nicholas G. Reich, Zahra Shamsi精选72°研究团队提出一种利用大语言模型(LLM)引导树搜索的自主系统,可迭代生成、评估和优化传染病预测软件。在2025-2026年美国呼吸道季节的前瞻性实时评估中,该系统自主发现针对流感、COVID-19和RSV的多样化模型,其集成预测性能一致达到或超过CDC人工策划的黄金标准集成。系统成功应对RSV数据稀缺的“冷启动”场景,并通过优化对数尺度距离指标和自动裁判机制确保模型可靠性。该框架克服了建模人力瓶颈,使专家级疾病预测能快速部署到更细粒度的地理区域和新兴病原体。论文LLM疾病预测树搜索推荐理由:做公共卫生预测或传染病建模的团队,终于有了能自动生成专家级模型的工具,不用再靠人工反复调参——建议关注其开源代码和冷启动能力。原文稍后读已读值得跟进有用关注 LLM
10:32官方账号arXiv cs.LG@Igor Bogdanov, Chung-Horng Lung, Thomas Kunz, Jie Gao, Adrian Taylor, Marzia Zaman精选FORGE 是一种无需梯度更新的智能体记忆进化协议,通过分层 ReAct 架构和群体广播机制,让 LLM 智能体从失败轨迹中生成可复用的知识(规则、示例或混合形式)。在 CybORG CAGE-2 网络防御任务中,FORGE 使所有 12 种模型配置的平均回报提升 1.7-7.7 倍(相比零样本基线),并降低严重失败率至约 1%。关键发现包括:群体广播是性能提升的核心机制,示例记忆对多数模型效果最佳,且较弱模型受益更显著。该工作为无需权重更新的智能体持续学习提供了新范式。论文智能体记忆进化群体广播推荐理由:做智能体持续学习和自主决策的团队——FORGE 用群体广播解决了记忆进化中的灾难性遗忘问题,无需微调模型权重,直接提升任务成功率。做网络防御或 POMDP 场景的开发者值得关注其低成本高回报的实践路径。原文稍后读已读值得跟进有用关注 智能体
23:41rohanpaul_ai@rohanpaul_aiMeta 首席 AI 科学家 Yann LeCun 在 X 上发文,认为大型语言模型(LLM)在价值和投资上并非泡沫,它们将驱动大量实际应用并证明当前基础设施投入的合理性。但他同时警告,真正的泡沫在于认为 LLM 能成为人类级别的思考者。LeCun 的观点区分了 LLM 的实用价值与其认知能力的局限性,对当前 AI 投资热潮提供了冷静的视角。行业LLMYann LeCunAI 投资推荐理由:LeCun 一针见血地拆解了 LLM 的实用价值与认知泡沫,做 AI 投资或技术决策的人值得一读,避免被过度乐观的叙事带偏。原文稍后读已读值得跟进有用关注 LLM
23:41rohanpaul_ai@rohanpaul_ai精选76°斯坦福大学最新论文指出,在相同的推理预算下,单个大语言模型(LLM)在多跳推理任务中通常优于多个协调的智能体系统。核心原因在于,单智能体将整个问题保留在内部思维链中,而多智能体系统需要将推理链分割成消息、摘要和交接,每次交接都是一次压缩步骤,容易丢失信息。实验在Qwen、DeepSeek和Gemini模型上验证了这一点,当思考令牌预算匹配时,单智能体系统在FRAMES和MuSiQue数据集上通常匹配或超越顺序、辩论、角色扮演和集成等设置。论文还发现,许多多智能体的优势并非来自架构本身,而是来自更多的测试时计算、更可见的推理或评估偏差。当单智能体的上下文被干扰时,多智能体管道才更具竞争力,因此建议将多智能体作为修复策略而非升级方案。论文多智能体推理模型斯坦福推荐理由:这篇论文戳破了多智能体系统“越多越好”的迷思,做AI推理和智能体架构的开发者看完会重新思考设计方向——先试一个强模型,别急着堆智能体。原文稍后读已读值得跟进有用关注 多智能体
10:20berryxia@berryxia菲尔兹奖得主、数学家陶哲轩在访谈中指出,当前大模型背后的数学原理其实非常简单,仅涉及线性代数、矩阵乘法和微积分,本科生就能完全掌握。然而,真正令人困惑的是模型行为不可预测:它们在某些任务上表现惊人,在另一些任务上却突然翻车,且无法提前预判。陶哲轩认为,核心原因在于现实世界的自然语言数据处于“部分有序、部分随机”的中间地带,而数学界对此区域的理论还很薄弱。这一“简单机制 vs 不可预测行为”的矛盾,是当前AI最核心的谜题。AI模型LLM数学基础陶哲轩推荐理由:陶哲轩把LLM的底层数学和核心矛盾说透了,做AI研究或对模型能力边界好奇的人看完会恍然大悟,建议点开原文感受顶级数学家的洞察。原文稍后读已读值得跟进有用关注 LLM
09:37rohanpaul_ai@rohanpaul_ai精选著名数学家陶哲轩指出,当前大语言模型(LLM)的训练和运行主要依赖线性代数、矩阵乘法和微积分,这些是本科生就能掌握的数学工具。然而,真正令人困惑的是为什么这些模型在某些任务上表现出色,而在其他任务上却失败,且无法提前预测。他认为,自然文本介于完全随机和完全结构化之间,而数学对中间状态的理解非常薄弱,类似于物理学在原子和连续介质之间的介观尺度面临的挑战。因此,尽管我们能描述LLM的机制,但无法解释能力跃迁或给出可靠的任务级预测。论文LLM数学基础可解释性推荐理由:陶哲轩点出了AI领域最核心的认知盲区——我们能用简单数学造出强大模型,却无法解释其行为,做AI研究或应用的开发者看完会重新思考“理解”的含义。原文稍后读已读值得跟进有用关注 LLM
23:54Geek@geekbb精选阿里巴巴发布了面向工业领域的大语言模型知识评测集 IndustryBench,包含 2049 道题目,题目来源为中国国家标准摘要和结构化工业产品记录。该评测集横跨 7 个能力维度和 10 个行业类别,旨在评估 LLM 在工业领域的知识掌握和推理能力。这是首个系统覆盖中国工业标准的评测基准,对工业智能化应用具有重要参考价值。AI模型评测基准工业领域LLM推荐理由:做工业 AI 应用或评测的团队终于有了本土化的标准测试集——2049 道题覆盖 10 个行业,直接对标中国国家标准,建议做工业大模型落地的同学点开看看。原文稍后读已读值得跟进有用关注 评测基准
23:40Gary Marcus@GaryMarcusGary Marcus 在 X 上指出,他 2020 年于 arXiv 发表的《Next Decade in AI》论文提供了清晰的 AI 发展路线图,但至今无人给出严肃批评。他认为该路线图基本正确,只是超前于时代,现在领域开始追随。同时,用户 Aeon Flux 提出了一个从集中式 LLM 转向去中心化认知细胞(DCC)的概念路线图,强调硬件级伦理、持续学习和用户数据主权。Marcus 的言论引发了关于 AI 发展方向的讨论。行业Gary MarcusAI路线图去中心化AI推荐理由:Gary Marcus 的路线图争议揭示了 AI 领域长期存在的方向分歧,关注 AI 伦理、去中心化或长期发展的研究者值得了解这场讨论。原文稍后读已读值得跟进有用关注 Gary Marcus
23:25Gary Marcus@GaryMarcusGary Marcus在X上回应@Nima292,指出当前的大语言模型(LLM)并非通用人工智能(AGI),但已经会导致部分工作岗位流失。他认为,如果未来真正实现AGI,失业问题将更加严重。这一观点引发了关于AI对就业影响的讨论,提醒人们关注技术发展的社会后果。行业LLMAGI失业推荐理由:Gary Marcus的这条推文戳中了AI从业者和政策制定者的焦虑点——LLM已经带来失业,AGI会更糟。关心AI社会影响的人值得一看,看完会思考技术发展的代价。原文稍后读已读值得跟进有用关注 LLM
21:49向阳乔木@vista8本文用简洁的图示对比了三种主流大语言模型后训练技术:SFT(监督微调)让模型学会遵循指令;DPO(直接偏好优化)使输出更符合人类偏好;GRPO(群体相对策略优化)进一步激发模型的推理和思考能力。三者在训练目标和方法上层层递进,是当前LLM对齐和增强推理能力的关键技术路径。对于想了解模型训练流程或优化模型输出的开发者,这是一份直观的入门参考。AI模型LLM后训练SFT推荐理由:想搞懂LLM后训练技术栈的开发者,这张图帮你三分钟理清SFT、DPO、GRPO的关系和演进逻辑,建议收藏。原文稍后读已读值得跟进有用关注 LLM
19:13AI Engineer@aiDotEngineer精选Magnus Carlsen 的象棋应用需要解释走棋原因,而不仅仅是评估局面。由于 LLM 在推理棋局时容易产生幻觉,团队将工作拆分:Stockfish 负责评估,检测器提取战术概念,LLM 仅负责翻译成自然语言。整个流程在 Gemini Flash 上耗时不到 3 秒。用户可在应用内标记不佳的解说,反馈会通过 Slack 和 Claude Code 自动触发修复循环,甚至能在手机上合并 PR。AI产品LLM国际象棋Stockfish3 个信源在谈事件专题推荐理由:这个架构解决了 LLM 在专业领域推理不靠谱的痛点,做 AI 教练或需要解释复杂逻辑的开发者可以直接参考。原文稍后读已读值得跟进有用关注 LLM
11:40官方账号Simon Willison’s Weblog(博客/媒体)Simon Willison 发布了 datasette-llm-limits 0.1a0 插件,与 datasette-llm 和 datasette-llm-accountant 配合使用,可为 Datasette 中的 LLM 调用设置按用户或全局的每日消费限额。配置示例显示,可以设置每个用户每天 1 美元的滚动 24 小时预算。这解决了多用户场景下 LLM 费用失控的问题,让 Datasette 管理员能精细控制 AI 功能的使用成本。AI产品DatasetteLLM插件/工具推荐理由:做 Datasette 数据应用的管理员终于能控制 LLM 调用成本了——按用户设每日预算,防止 AI 查询烧光 API 额度,值得一试。原文稍后读已读值得跟进有用关注 Datasette
10:04官方账号arXiv cs.AI@Yoshia Abe, Tatsuya Daikoku, Yasuo Kuniyoshi精选73°该研究提出了一种结合深度学习与大型语言模型(LLM)的系统,用于个性化图像审美评估。系统通过LLM进行半结构化访谈主动收集用户的审美偏好,并提取图像的高层语义特征与低层特征进行预测。实验表明,该系统在预测个体审美评价上优于传统模型、人类预测者,甚至目标个体自身的重新评估。尤其在高评分图像上表现突出,且预测误差小于个体自身的时间波动。研究暗示AI可能比他人或未来的自己更能捕捉特定时刻的个体审美偏好,引发AI能否成为比人类更深刻审美解释者的新问题。论文LLM图像审美评估个性化推荐推荐理由:这项研究解决了AI审美评估中主观性强的痛点,做个性化推荐、图像编辑或用户体验优化的团队值得关注——它用LLM访谈替代了传统问卷,效果甚至超过本人复评,建议点开看看实验设计。原文稍后读已读值得跟进有用关注 LLM
04:54官方账号Andrew Ng@AndrewYNgAndrew Ng 推出新课程《Transformers in Practice》,与 AMD 合作,由 Sharon Zhou 主讲。课程提供基于 Transformer 的 LLM 的实用视角,帮助理解其行为、诊断推理缓慢等问题,并做出更明智的部署决策。课程包含交互式可视化,而非纯视频,让学员动手探索概念。学员将掌握 LLM 幻觉原因、注意力机制、推理瓶颈诊断及 GPU 加速技术。AI模型TransformerLLM课程推荐理由:想真正理解 LLM 内部机制、诊断推理问题的开发者,这门课能帮你从黑盒用户变成懂原理的实践者,建议直接报名。原文稍后读已读值得跟进有用关注 Transformer
21:29AK@_akhaliq精选一项新研究证明,仅通过修改大型语言模型中的一个神经元就能绕过其安全对齐机制。该发现揭示了当前对齐方法存在严重漏洞。在多个开源模型上验证后,修改单个神经元后模型生成有害内容的概率显著提升。论文分析了该神经元的激活模式与安全决策的关联。论文LLM安全对齐神经元推荐理由:改一个神经元就破防原文稍后读已读值得跟进有用关注 LLM
13:37官方账号Andrej Karpathy@karpathy精选Karpathy 在 Sequoia Ascent 2026 炉边谈话中分享了三个核心主题。首先,LLM 远不止是加速现有工作(如编程),他举了三个新例子:menugen 应用完全由 LLM 驱动无需传统代码、用 .md 技能替代 .sh 脚本安装软件、以及基于 LLM 的知识库处理非结构化数据。其次,他深入解释了 LLM 的“锯齿状能力”模式——为何同一个模型既能重构十万行代码,又会建议你去洗车——这源于领域可验证性和经济因素(收入/TAM 决定训练数据分布)。最后,他展望了智能体原生经济,包括产品服务分解为传感器、执行器和逻辑,以及如何让信息对 LLM 更可读,并暗示了全神经计算的未来。行业LLM智能体Karpathy推荐理由:Karpathy 把 LLM 的“锯齿状能力”和智能体原生经济讲透了,做 AI 产品、搞智能体开发的团队看完会对能力边界和落地方向有全新认知,值得点开细品。原文稍后读已读值得跟进有用关注 LLM
13:37官方账号Andrej Karpathy@karpathy精选AI 研究员 Andrej Karpathy 在 X 上分享了一个实用技巧:在对话结束时让 LLM 将回答结构化为 HTML,然后在浏览器中查看生成的文件。他认为,音频是人类偏好的输入方式,而视觉(图像/动画/视频)是偏好的输出方式。他预测 AI 输出将从纯文本、Markdown 向 HTML 演进,最终走向交互式神经视频/模拟。他还指出,输入方面需要增加指向/手势等交互方式。目前阶段,他建议尝试让 LLM 输出 HTML 以提升信息接收效率。技巧LLMHTML视觉输出推荐理由:Karpathy 的这个技巧让 AI 输出从枯燥文本变成可视化页面,做演示、写文档或做数据分析的团队可以直接用,省去手动排版时间。原文稍后读已读值得跟进有用关注 LLM
13:27官方一手arXiv: OpenAI@Andreas Maier, Jeta Sopa, Gozde Gul Sahin, Paula Perez-Toro, Siming Bayer精选75°一项研究复现了 Wu 等人(2026)的发现:多数前沿大语言模型在系统提示中包含软赞助线索时,会推荐价格约两倍的赞助航班。研究者对 10 个开源聊天模型和 2 个 OpenAI 模型(gpt-3.5-turbo、gpt-4o)进行了评估,发现原文的结论具有普遍性——例如 gpt-3.5-turbo 的赞助推荐率与原报告接近。关键发现是:一个仅 30 个 token 的用户提示(要求模型先提供中立对比表格)可将开源模型的赞助推荐率从 46.9% 降至 1.0%,OpenAI 模型从 53.0% 降至 0%。研究还揭示了复现过程中的三个隐性实现错误,表明仅靠文字描述不足以准确复现。论文LLM赞助推荐提示工程9 个信源在谈事件专题推荐理由:这篇论文揭示了 LLM 推荐中的赞助偏见,并提供了一个极简的对抗方法——用 30 token 提示词就能大幅降低推荐偏差。做 AI 安全、推荐系统或 LLM 应用的开发者值得一看,可以直接复现实验。原文稍后读已读值得跟进有用关注 LLM
13:27官方账号arXiv cs.AI@Or Ordentlich, Yury Polyanskiy精选本文是量化矩阵乘法研究的第二部分,探讨在第二因子列协方差矩阵已知时的量化策略,该场景常见于大语言模型的权重量化后训练。作者展示了经典的水填充法(waterfilling)如何改进现有LLM量化算法(如GPTQ),后者目前均匀分配比特率。分析表明,仅使用标量INT量化器的WaterSIC方案在高率下性能与信息论极限相差仅0.25比特/条目,且不受随机旋转影响。而GPTQ在随机旋转下与WaterSIC差距在0.1比特以内,表明其在高率下也接近最优。论文量化LLM水填充法推荐理由:做LLM量化的开发者终于有了理论指导——水填充法比均匀分配更优,GPTQ加随机旋转就能接近极限,建议做权重量化的团队点开看看具体实现。原文稍后读已读值得跟进有用关注 量化
13:27官方账号arXiv cs.AI@Mohammad Reza Mousavi精选一项新研究测试了 Gemini-3、GPT-5.4 和 Qwen-3.6 三个大模型对高级消息序列图(HMSC)语义的理解能力。HMSC 是 UML 序列图的基础,具有严格的形式语义。研究设计了 129 个语义任务,涵盖基本语义查询、抽象与组合、迹与标签转移系统计算。结果显示,LLM 整体准确率仅约 52%,其中基本语义理解较好(88%),但抽象与组合任务(36%)和迹与 LTS 任务(42%)表现很差。所有模型都未能理解共区域和显式因果依赖等概念。这表明 LLM 在形式化软件工程任务上仍有显著局限。论文LLM形式语义软件工程推荐理由:做形式化方法或软件建模的开发者会发现,LLM 对 UML 序列图语义的理解远不如预期,依赖 LLM 生成设计文档时需谨慎验证。原文稍后读已读值得跟进有用关注 LLM
13:26官方账号arXiv cs.LG@Deepak Pandita, Flip Korn, Chris Welty, Christopher M. Homan精选生成式AI模型(如LLM)的普及使系统安全性和可信度评估变得至关重要,但当前AI领域面临可重复性危机,主要源于不可靠的评估和不可重复的实验结果。人类评估者引入的偏见和主观意见加剧了这一问题,而现有评估实践通常每个项目仅使用3-5个标注,且缺乏持久评估者标识。该研究提出一种多级自助法(bootstrapping)来建模标注者行为,利用大量标注数据和持久评估者标识,分析项目数量(N)与每个项目响应数(K)之间的权衡,以达成统计显著性。这项工作为改进评估可重复性提供了方法论基础。论文可重复性评估方法标注者偏差推荐理由:做AI评估和模型安全测试的团队,终于有了量化标注者偏差的方法论——多级建模直接告诉你需要多少标注才能得到可靠结论,建议做实验设计的点开看看。原文稍后读已读值得跟进有用关注 可重复性
21:36官方账号Simon Willison’s Weblog(博客/媒体)Simon Willison 分享了一个技巧:在脚本的 shebang 行中直接调用 LLM,让自然语言文本文件像可执行脚本一样运行。最简单的用法是 `#!/usr/bin/env -S llm -f`,后面跟自然语言指令即可生成内容(如 SVG)。还可以通过 `-T` 选项调用工具(如获取当前时间写俳句),甚至嵌入 YAML 模板定义 Python 函数作为工具,实现复杂计算。这个模式让 AI 模型无缝融入 Unix 脚本生态,开发者可以直接用自然语言编写可执行脚本。技巧LLMshebang脚本技巧推荐理由:这个技巧把 LLM 变成了 Unix 脚本的一等公民,做自动化或 CLI 工具的开发者可以直接用自然语言写可执行脚本,省去解析参数的麻烦。原文稍后读已读值得跟进有用关注 LLM
21:36官方账号Simon Willison’s Weblog(博客/媒体)LLM 命令行工具发布 0.32a2 版本,核心更新是支持 OpenAI 最新的 /v1/responses 端点,替代旧的 /v1/chat/completions。这意味着 GPT-5 等推理模型可以在工具调用时展示推理过程,用户运行提示时能看到彩色推理 token。新增 -R 或 --hide-reasoning 参数可隐藏推理输出。该版本还包含其他多项改进,适合使用 LLM 与 OpenAI 模型交互的开发者。AI产品LLMOpenAI推理模型2 个信源在谈事件专题推荐理由:LLM 用户终于能直观看到 GPT-5 等模型的推理过程了,做 AI 工具链和命令行调用的开发者值得升级体验。原文稍后读已读值得跟进有用关注 LLM
21:35官方一手Anthropic: Research(资讯)70°Anthropic 发布了一项新研究,提出利用大型语言模型(LLM)作为自动化对齐研究者,以解决 AI 对齐中的可扩展监督问题。该方法通过让 LLM 自动生成和测试对齐假设,减少对人类研究者的依赖,从而加速对齐研究进程。实验表明,自动化对齐研究者能够发现一些人类可能忽略的漏洞,并生成有效的对齐策略。这项研究为未来更安全的 AI 系统开发提供了新思路,尤其适用于需要大规模监督的复杂场景。论文AnthropicAI 对齐可扩展监督推荐理由:Anthropic 用 LLM 自动化对齐研究,解决了可扩展监督的人力瓶颈,做 AI 安全和对齐的团队值得关注,可以直接参考其方法加速自己的研究。原文稍后读已读值得跟进有用关注 Anthropic
19:12官方账号arXiv cs.AI@Yuxiao Yang, Xiaoyun Wang, Weitong Zhang精选本文研究了在线策略自蒸馏(OPSD)方法,即语言模型通过在其自身生成的轨迹上蒸馏特权教师分布来提升推理能力。作者发现OPSD存在一个常见但常被忽视的问题:教师响应中的自我反思偏差和模板会导致token级监督校准错误。为此,他们提出OGLS-SD框架,利用可验证的结果奖励对比成功与失败的在线轨迹,并通过logit引导校准教师logits。该方法结合结果级正确性与密集的token级引导,在多个基准上稳定了自蒸馏过程并提升了推理性能。论文自蒸馏推理模型logit校准推荐理由:如果你在做LLM推理优化或自蒸馏训练,OGLS-SD解决了教师-学生分布不匹配的痛点,用结果奖励校准logits的思路直接可复用,值得仔细看方法细节。原文稍后读已读值得跟进有用关注 自蒸馏
19:12官方账号arXiv cs.AI@Haoyu Wang, Yuliang Song, Tao Li, Zhiwei Deng, Yaqing Wang, Deepak Ramachandran, Eldan Cohen, Dan Roth精选该研究提出CP-SynC-XL基准(100个组合问题,4577个实例),评估三种求解器构建范式:原生Python算法搜索、Python+OR-Tools约束建模、MiniZinc+OR-Tools声明式建模。结果显示,Python+OR-Tools正确率最高,而原生Python易产生格式正确但验证失败的方案。提示模型进行搜索优化仅带来1.03-1.12倍的中位加速,但许多实例反而变慢,且正确率在长尾问题上显著下降。代码审计发现,优化提示会导致模型用局部近似替代完整搜索、注入未验证的边界或添加冗余声明式机制,陷入“启发式陷阱”。研究建议:LLM应主要用于形式化变量、约束和目标,而搜索优化需单独验证。论文LLM组合优化求解器推荐理由:做组合优化或约束求解的开发者,这篇论文用实验数据告诉你为什么别让LLM碰搜索优化——它可能让你的求解器变慢还出错。建议读读,避免踩坑。原文稍后读已读值得跟进有用关注 LLM
19:12官方一手arXiv: DeepSeek@Ali Karakoc, H. Birkan Yilmaz精选该论文提出两种基于大语言模型(LLM)的对抗性SQL注入生成系统:RADAGAS(检索增强生成)和RefleXQLi(反思链式推理),用于自动化测试Web应用防火墙(WAF)的防御能力。研究使用GPT-4o、Claude 3.7 Sonnet和DeepSeek R1,在10种WAF(包括规则型、AI/ML型和商业型)上进行了240次实验,生成了24万个payload并执行了220万次测试。结果显示,RADAGAS-GPT4o以22.73%的绕过率领先基线模型,对AI/ML型WAF(如WAF-Brain和CNN-WAF)的绕过率高达92.49%和80.48%,但对规则型WAF(如ModSecurity和Coraza)的绕过率仅0-5.70%。研究还发现,多样性较低的payload更容易绕过,但若初始payload失败则效果不佳。这项工作为安全测试中LLM的应用提供了全面视角。论文SQL注入LLM对抗性攻击推荐理由:安全工程师和渗透测试人员可以借鉴RADAGAS和RefleXQLi的思路,自动化生成对抗性SQL注入payload来评估自家WAF的盲区,尤其是AI/ML型WAF的脆弱点值得重点关注。原文稍后读已读值得跟进有用关注 SQL注入
19:12官方一手arXiv: DeepSeek@Erfan Loweimi, Sofia de la Fuente Garcia, Saturnino Luz精选研究团队利用大语言模型(LLM)从自发语音中零样本预测Ryff心理幸福感(PWB)分数。基于PsyVoiD数据库中111名参与者的几分钟语音录音,评估了12种指令微调LLM(包括Llama-3、Ministral、Mistral、Gemma-2/3、Phi-4、DeepSeek和QwQ-Preview)。与临床心理学和语言学专家合作开发了领域提示词。结果显示,LLM能从语音中提取语义线索,在80%的数据上达到最高0.8的Spearman相关性。研究还通过统计分析解释预测变异性和偏差,并用词云突出驱动预测的语言特征。论文LLM心理幸福感语音分析推荐理由:这项研究为心理健康评估提供了非侵入式新方法——用几分钟语音就能预测幸福感,做临床心理学或语音分析的团队值得关注,零样本方案降低了部署门槛。原文稍后读已读值得跟进有用关注 LLM
19:12官方账号arXiv cs.AI@ Gunjan, Sidahmed Benabderrahmane, Talal Rahwan精选该研究从计算社会科学视角,构建了包含178万条帖子的配对语料库,覆盖新冠疫情、国会山骚乱、美国大选等9次危机事件。通过比较真实社交媒体话语与LLM生成的合成话语,发现合成话语在情绪、结构、词汇和事件依赖四个维度上表现出“群体级不真实”:情绪更负面且分散度低、结构更规则、词汇更抽象。这种差异在快速演变的去中心化危机中尤为明显,而在制度性事件中较小。研究提出了“漫画差距”指标,认为合成政治话语的主要问题不是语法或流畅度,而是缺乏群体层面的社会真实性。论文LLM政治话语虚假信息推荐理由:做AI安全、虚假信息检测或计算社会科学的研究者值得关注——这篇论文把LLM生成文本的检测从句子级提升到群体级,提供了可量化的审计框架,建议做内容审核或舆情分析的团队点开看看。原文稍后读已读值得跟进有用关注 LLM
19:12官方一手arXiv: DeepSeek@Jinyuan Wang, Ningyuan Deng, Yi Yang精选大型语言模型(LLM)越来越多地被用于社会科学研究,将非结构化文本转换为可进入实证设计的变量。但研究发现,LLM的置信度与真实正确率严重不匹配,导致基于置信度过滤会扭曲下游回归估计。研究对GPT-5-mini、DeepSeek-V3.2等14个社会科学构念进行审计,发现所有模型都存在校准偏差。作为解决方案,提出软标签蒸馏管道,将LLM得分和置信度转化为软目标分布,训练小型判别分类器,平均降低ECE 43.2%和Brier 34.0%。研究呼吁将校准视为测量有效性的组成部分,而非可选的后期处理。论文LLM社会科学校准推荐理由:做社会科学量化分析的团队终于有了校准LLM输出的实操方案——软标签蒸馏能显著降低置信度偏差,建议做文本编码和实证研究的点开看看具体方法。原文稍后读已读值得跟进有用关注 LLM
19:11官方账号arXiv cs.LG@Nikita Kezins, Urbas Ekka, Pascal Berrang, Luca Arnaboldi红队测试在实际中表现良好的护栏分类器无法提供形式化保证,因为“有害行为”缺乏离散输入空间中的自然规范。研究者提出将验证从离散输入空间转移到分类器的预激活空间,通过定义包含已知有害提示表示的有害区域,并利用sigmoid分类头的单调性,能在O(d)时间内给出封闭形式的可靠性证明。该框架应用于三种毒性护栏分类器,所有超矩形配置均返回SAT(即存在安全漏洞),而概率性高斯混合模型证书则揭示了模型表示危害的结构稳定性差异:GPT-2和Llama-3.1-8B保持90%和80%的覆盖率,但BERT的安全保证在最优阈值下覆盖率骤降至55%。这些方法提供了超越传统红队测试的护栏分类器有效性新见解。论文AI安全形式化验证护栏分类器推荐理由:该研究首次为LLM护栏分类器提供了形式化验证方法,揭示了高经验指标下隐藏的安全漏洞,对AI安全领域具有重要指导意义。原文稍后读已读值得跟进有用关注 AI安全
17:56AK@_akhaliqSoohak是由数学家精心策划的基准测试,旨在评估大型语言模型(LLM)在科研级别数学问题上的能力。该基准涵盖高等数学的多个领域,包括代数、几何、分析等,要求模型不仅具备计算能力,还需展现推理和创新解题能力。这为评估LLM在专业数学研究中的应用潜力提供了更严格的测试标准。论文推理模型LLM数学评测推荐理由:Soohak填补了现有数学评测基准在科研深度上的空白,为AI在数学领域的前沿应用提供了更精确的评估工具,有助于推动模型在数学推理和问题解决上的进步。原文稍后读已读值得跟进有用关注 推理模型
11:45官方账号arXiv cs.AI(学术论文)本文针对当前AI评估中普遍存在的“苹果与橙子”式比较问题,提出了一种可重复的流程,将高层级AI使用用例转化为详细评估场景。该方法通过结构化的AI用例工作表(包含用例、行业、用户、预期结果、预期影响和关键绩效指标六大要素)从领域专家处获取用例,并结合LLM提示与人工审核的三阶段扩展管线,将用例扩展为107个场景。文中以美国金融服务业为例,展示了网络防御、开发者生产力、金融犯罪聚合等用例的转化过程。核心贡献在于通过人工检查点确保场景的操作基础性和人类中心设计原则,为更一致、有意义的AI评估范式提供支持。论文AI评估方法论金融服务业推荐理由:该研究直面AI评估领域的方法论碎片化问题,提出的结构化流程和人类中心设计原则为业界提供了可操作的标准化评估框架,尤其对金融等高风险行业的AI系统评估具有直接参考价值。原文稍后读已读值得跟进有用关注 AI评估
11:44官方账号arXiv cs.AI(学术论文)论文提出PACS(概率常识溯因推理)框架,解决神经符号系统中形式逻辑求解器缺乏常识的问题。传统方法假设常识事实普遍一致,但实际中个体常识存在差异。PACS通过LLM和形式求解器对个体常识信念进行抽样证明,并聚合结论,在多个基准测试中优于思维链、先前神经符号方法和搜索式方法。该工作首次将概率建模引入常识溯因推理,为处理主观常识提供了新思路。论文推理模型常识推理神经符号推荐理由:通过概率建模处理常识变异,PACS提升了神经符号推理的鲁棒性,对增强LLM在开放世界推理中的常识能力有实际价值。原文稍后读已读值得跟进有用关注 推理模型