论文官方一手9月22日 10:18

像物理学家一样剪枝 LLM：把删 Block 变成 Ising 优化问题

Pruning LLMs Like a Physicist: Block Removal as an Ising Optimization Problem

官方一手Hugging Face: Blog

博客/媒体

精选理由

Multiverse Computing 把“LLM 该删哪些层”写成 Ising 模型用物理方法解，比逐层打分剪枝的思路新鲜。

Multiverse Computing 的团队把 LLM 剪枝重写成一个 Ising 优化问题：Transformer 的每个 block 对应一个自旋，去留由系统能量最小化决定。

像物理学家一样剪枝 LLM：把删 Block 变成 Ising 优化问题 — 图片来源 · Hugging Face: Blog

正文

与按重要性分数逐层打分的常规剪枝不同，Ising 视角把“删哪些 block”当成一次全局组合优化来求解。文章给出了从构建 Ising 哈密顿量到实际删除 block 的完整推导，教程发布在 Hugging Face。

产业坐标与信源核验

本条情报归属 AITOP「论文」核心栏目，重点聚焦欧洲人工智能治理与技术生态。在跨区域产业观察坐标中，该动态直接关联「AI 开发者工具链、Coding Agent 与工程化实践」研究主线，反映出当前技术演进与商业落地的最新风向。涉及核心实体与技术议题包括：LLM、模型剪枝、Multiverse Computing、Ising模型，读者可通过下方标签进入对应专题页查阅历史脉络与关联对比。

信源核验说明：本文原始信息发布自一手权威信源「Hugging Face: Blog」（Tier-1 一手发布），具备高确定性参考价值。

#LLM #模型剪枝 #Multiverse Computing #Ising模型 #Transformer

继续读

同标签或同类目的最近条目

论文 Agent 与开发者15:02

Ballad：基于多臂老虎机的 LLM 路由方法用于自动启发式发现

这篇论文很实在：跑 AHD 时贵模型不一定赢，用 bandit 动态挑模型，成本最多省 65.6% 还能超过单模型。做组合优化、进化搜索或者想省钱跑 LLM ensemble 的开发者都该看看。

#LLM #多臂老虎机 #组合优化 #AHD

arXiv cs.AI@Samidha Verma 等 3 人原文

论文 Agent 与开发者15:02

研究：用户自适应行为如何影响 LLM 交互系统的评估

评估 LLM 时你可能一直测错了东西：这篇论文证明离线跑基准和线上 A/B 测的根本不是同一个指标，用户适应后模型排名都可能反转。做模型评估、部署选型或实验设计的工程师和研究者应该看看它给出的判断条件。

#LLM #A/B测试 #模型评估 #reward hacking

arXiv cs.AI@Hannah Li原文

论文 Agent 与开发者15:02

Al-Ghasali：用有限状态自动机约束 LLM 模拟伊斯兰教法裁决

搞约束解码或神经符号结合的人可以看这篇：作者把教法规则编译成有限状态自动机，再用文法约束解码管住 LLM，数学证明能彻底消除决策性幻觉。思路对任何需要 LLM 严格按规则输出、不能瞎编结论的场景都有参考价值。

#LLM #约束解码 #神经符号 #形式化验证

arXiv cs.AI@Elnaserledinellah Mahmoud Abdelwahab原文

论文 Agent 与开发者15:02

双智能体 LLM 流水线实现可扩展的对话式考试系统

口试能逼学生讲清推理过程，但一个老师考不了全班。这篇论文用两个分工的智能体做对话式考试，一个提问一个暗中按 rubric 打分，还专门防提示注入骗答案。做教育产品或评估工具的人可以看看架构设计。

#LLM #双智能体 #教育评估 #AI literacy

arXiv cs.AI@Geoffrey Challen, Craig Zilles原文

论文 Agent 与开发者14:08

研究揭示 LLM 如何在注意力头中编码目标并指导后续行动

这篇论文回答了一个很有意思的问题：模型明明没有记忆机制，怎么在长任务里一直记住目标。作者找到了具体负责的注意力头，还提出了 NRGS 解释，做模型可解释性或 agent 研究的值得看原始论文。

#LLM #注意力头 #可解释性 #NRGS

arXiv cs.LG@Arnab Sen Sharma 等 10 人原文

arXiv 论文：用 LLM 直接生成变分量子电路参数

搞量子计算的朋友可以看看这篇。它测了冻结 LLM 在三种哈密顿量上生成电路参数的效果：结构化问题上有戏，随机问题上不如 Adam 优化。结论很实在，能帮你判断该不该把 LLM 用进变分算法流程里。

#LLM #量子计算 #变分量子电路 #哈密顿量

arXiv cs.LG@Tiago de Souza Farias 等 6 人原文