#Llama

一篇解决 LLM 推理内存痛点的论文：MultiAlloc 在固定显存预算下自动决定 KV Cache 量化精度怎么分，比现有逐层和逐 token 方法都省心。

华为系出的一篇系统论文，链路悄悄变慢时能边测边重排通信调度，比静态方案快最多 4.99 倍，做分布式训练的可以看看。

清华团队推出DualQuant，无需校准数据就能量化大模型，精度媲美SmoothQuant，性能提升超2倍。

这篇论文很扎心：EWC 保住了通用能力，翻译里的正式度、性别控制这些指令照样丢。做翻译微调的人建议看看，选抗遗忘方法前先想清楚。

一篇把拍卖机制套到 LLM 采购上的论文，Llama 和 Qwen 实测显示固定定价比竞价贵 10% 到 71%，做 API 成本优化的可以看看思路。

这论文把 KV-cache 压缩变成了能签合同的事：给定风险目标，自动算出能砍多少缓存，砍不了就回退全 KV。做长文本推理部署的可以看看。

35 篇交通+LLM 的论文里只有一篇做过漏洞评估，想搞车联网 AI 的工程师可以看看这篇综述

这个研究挺有意思，作者测试了几个大模型，发现它们在奖励渠道被篡改时能很好识别说谎者，但在奖励没变时，会错误地判断诚实者，这个现象挺有趣的。

这个新框架挺有意思，它通过模拟用户心理状态来训练AI，让AI能更好地理解我们说话背后的真实想法和目标，比单纯看表面文字更懂人。

这篇论文用六种VLM检测游戏里的几何裁剪bug，发现Gemini最稳，开源模型要看怎么问提示词。想了解VLM实际落地坑点的可以看看。

想用开源模型解释GPT？这篇论文告诉你预测一致不代表归因一致，小心踩坑。

这篇论文用层析探针找到了LLM做代码推理时“酝酿”到“解析”的秘密，发现即便准确率相近，内部失败模式也截然不同，值得想理解推理本质的人读。

开源策略如何影响全球AI竞争格局？关注地缘政治与商业利益的开发者、政策研究者，值得看看这个观点引发的讨论。

Gary Marcus@GaryMarcus原文