LLM 相关 AI 资讯

论文 Agent 与开发者多源确认00:11

Y Combinator Paper Club 聚焦 AI 安全：从飞机防撞到 LLM 验证

斯坦福两位教授和 François Chollet 一起聊 AI 安全，把飞机防撞系统的验证方法搬到 LLM 上，还有用 Lean 证明代码正确的 CSLib 演示，硬核但好懂。

#AI安全 #形式化验证 #Lean #Stanford

事件专题

Y Combinator@ycombinator11 个信源在谈原文

行业 Agent 与开发者06:14

Aisle 实验室一年发现 500+ 个零日漏洞，覆盖 100+ 开源代码库

一个不大的团队用 LLM 一年挖出 500 多个零日漏洞，还能在 curl 上和前沿实验室掰手腕，这波操作很值得看。

#Aisle #零日漏洞 #CVE #LLM

Ian Goodfellow@goodfellow_ian原文

行业 Agent 与开发者19:31

Gergely Orosz：认为 LLM 永久改变软件开发不算"AI psychosis"

Gergely Orosz 发推怼了那些嘲讽 LLM 重度使用者是"AI psychosis"的人，Tom Blomfield 也在评论区附议，挺有意思的立场之争。

#LLM #Gergely Orosz #AI psychosis #软件开发

Gergely Orosz@GergelyOrosz原文

论文16:33

研究比较 LLM 与主治医生所推荐诊疗的费用差异

医生和用 AI 问诊的朋友都该看看：这项研究直接对比了 LLM 和医生开出的诊疗费用，差异在哪、差多少，数据说话。

#NEJM AI #LLM #医疗AI #研究报告

NEJM AI@Dvir Aran Jeremy D. Goldhaber-Fiebert Ittai Many Anthony Nguyen Daniel Yang and Shahar Shelly原文

论文 Agent 与开发者11:42

LLM 进化搜索发现超越现有最优的量子电路设计

让 LLM 提方案、评估器打分的进化搜索，8 个量子任务里 7 个刷新了电路资源的最优记录，方法本身也值得借鉴。

#LLM #量子计算 #进化搜索 #可逆电路

arXiv cs.AI@Andi Gu 等 4 人原文

论文 Agent 与开发者11:42

研究发现 LLM 在印度语系测试中表现不同：拒绝率随“被测试”线索上升

有人拿四个模型在五种印度语言里做了个有意思的测试：模型知道自己在被测时拒绝率会明显变高，连良性请求也更容易被拒。

#LLM #evaluation awareness #AI安全 #多语言

arXiv cs.AI@Trizal Garg 等 9 人原文

论文11:28

Subspace Tuning：限制更新方向以缓解微调中的灾难性遗忘

微调总把模型原有能力练没了？这篇提出只在低奇异值子空间更新权重，KL 漂移少 2-4 倍，做微调的可以看看。

#Subspace Tuning #灾难性遗忘 #微调 #SFT

arXiv cs.LG@Arnav Chavan 等 9 人原文

论文 Agent 与开发者09:42

LLM 智能体在 3 个 RTL 设计上实现 100% 功能覆盖率

用 LLM 自动写测试把硬件覆盖率拉满，还靠独立记分板查数据对不对，作者连自己代码里的 bug 都揪出来了。

#LLM #功能覆盖率 #cocotb #硬件验证

arXiv cs.AI@Venkata Krishna Kumar Vedantam原文

论文 Agent 与开发者09:42

arXiv 论文提出统一评测框架，检验 LLM 智能体科学探究能力

七个模型在模拟科学探究任务里集体翻车，成功率低得离谱，但加个简单引导结构就明显变强，搞 agent 评测的可以看看。

#LLM #智能体 #提示词工程 #评测框架

arXiv cs.AI@Marta Knežević 等 5 人原文

论文政策与合规09:41

博弈论研究：AI 供应链中的安全投资激励机制

一篇把 AI 安全和经济学模型结合的论文，结论挺反直觉：下游竞争反而让安全投入更多，上游供应商才是不愿意掏钱的那个，监管该盯谁一目了然。

#AI安全 #博弈论 #LLM #监管政策

arXiv cs.LG@Nikita Tsoy原文

论文 Agent 与开发者04:15

用大模型多智能体架构求解手术室排程问题

医院排手术表是个经典难题，这篇论文让多个 LLM 智能体分工协作来排，做法挺新，做调度优化或医疗信息的可以看看。

#多智能体 #LLM #手术室排程 #npj Digital Medicine

npj Digital Medicine@Kang Li原文

论文 Agent 与开发者13:00

PerSo 基准测试：用 Reddit 说服对话评估 LLM 社交智能

一个用 Reddit 真实说服对话测 LLM 社交智能的新基准，发现模型在行动上赢过人类、在读懂人心上还差一截，论文细节挺有意思。

#PerSo #LLM #基准测试 #社交智能

arXiv cs.AI@Ali Zamani 等 6 人原文

论文 Agent 与开发者13:00

研究显示：定期“遗忘”能让 LLM 智能体的自动探索走得更远

几个 LLM 智能体做自动科研会越跑越僵，这篇论文发现定期清空记忆、只留最优解重启，能多挖出最多 39% 的改进。

#LLM #智能体 #自动科研 #搜索优化

arXiv cs.AI@Shangyin Tan 等 11 人原文

论文 Agent 与开发者12:54

LLM结合可微用户均衡层，让非专家也能做交通规划

用 LLM 加 MCP 接上交通规划引擎 AequilibraE，还专门做了可微用户均衡层，非专业决策者用自然语言就能跑路网优化了。

#LLM #MCP/工具 #AequilibraE #交通规划

arXiv cs.AI@Eunseung Lee 等 3 人原文

论文12:45

用 LLM 结合文本与传感器数据过滤工业训练数据，虚拟流量计 MAPE 从 7.1% 降至 5.4%

这篇论文教你用 LLM 读工程师备注来清洗工业传感器数据，虚拟流量计的 MAPE 直接从 7.1% 降到 5.4%，做工业机器学习的可以看看思路。

#LLM #虚拟流量计 #数据清洗 #多模态

arXiv cs.LG@Kristoffer Hjelmen Nesland 等 4 人原文

论文 Agent 与开发者12:40

研究：LLM 被要求停止思考时仍会继续推理

一篇讲 LLM 怪癖的论文：让它别思考，它还接着想。搞推理模型和提示词的可以看看原因。

#LLM #推理模型 #提示词工程 #论文

AK@_akhaliq原文

行业12:23

LLM“解决”NLP 之后，NLP 研究者是怎么应对的？

有位 X 上的研究者发问：NLP 学者当年是怎么熬过 LLM 冲击的？现在轮到别的学科抄这份经验了。

#NLP #LLM #研究者转型 #学术圈

Tanishq Abraham (论文推介)@iScienceLuvr原文

模型中美对照12:16

网友观点：LLM 能从行为痕迹还原人类行为信号，Ilya 早有预判

一条推文观点：NTP 训出的 LLM 能从行为痕迹反推人类行为信号，作者还说 Ilya 早看穿了。

#LLM #Transformer #NTP #Ilya Sutskever

Teortaxes@teortaxesTex原文

技巧 Agent 与开发者21:28

本地LLM加速技巧：推测解码

Hugging Face教你用推测解码技术，让本地LLM运行快好几倍

#LLM #推测解码 #Hugging Face #本地模型

官方账号Hugging Face@huggingface原文

论文 Agent 与开发者12:17

CosmoAgent：用 LLM 智能体搜索暗能量与修正引力模型

物理学家让 8 个大模型当宇宙学研究员，自动发明引力理论并用 DESI 和 DES 数据打分，最好的模型拿到了 ΔAIC=-3.328。

#CosmoAgent #LLM #DESI #修正引力

arXiv: DeepSeek@Stephon Alexander 等 5 人原文

论文 Agent 与开发者11:06

GUIDE 框架：让 LLM 自学通用多方会议主持策略

一组研究者让 LLM 自己总结出怎么主持多人讨论，胜过三个专用主持人，还更省话，做群聊或会议助手的可以看看。

#GUIDE #LLM #智能体 #论文

arXiv cs.AI@Ziyi Liu 等 6 人原文

论文 Agent 与开发者11:06

APB 基准发布：测试 LLM 多轮主动提问式解谜推理能力

这篇论文造了个新基准，让模型靠多轮提问猜出 960 个专业概念，结果开源推理模型反而输给普通指令模型，挺有意思。

#APB #推理模型 #基准测试 #LLM

arXiv cs.AI@Xin Cheng 等 3 人原文

论文10:24

NetRL：用 NetGRPO 强化学习优化网络决策

一篇把 LLM 用于自适应码率、拥塞控制这类网络任务的研究，NetGRPO 比 NetLLM 高 23.6% QoE，代码和模型权重都开源了。

#NetRL #NetGRPO #强化学习 #LLM

arXiv cs.LG@Lingfeng Peng 等 4 人原文

论文 Agent 与开发者20:26

研究显示提示词效果因模型而异，中医领域 LLM 部署面临可靠性挑战

做医疗类 LLM 应用的可以看看：同一套提示词换个模型效果就变，中医场景实测数据都在这篇里。

#提示词工程 #医疗AI #LLM #npj Digital Medicine

npj Digital Medicine@Hsing-Yu Chen原文

论文 Agent 与开发者12:39

SambaNova 联合四所高校研究长时程任务下 LLM 智能体的有效性

SambaNova 拉上 Stanford、CMU 等四所高校发了篇论文，专门研究智能体跑长任务为什么会掉链子，做 agent 的可以看看。

#LLM #智能体 #SambaNova #Stanford

SambaNova@SambaNovaAI原文

论文 Agent 与开发者11:45

Chris Manning：LLM 世界模型与视觉世界模型差异可能没想象中大

斯坦福 Chris Manning 发推说 LLM 和视觉世界模型可能没那么不同，正好回应最近关于语言模型有没有世界理解的那场争论。

#world models #LLM #Chris Manning #推理模型

Christopher Manning@chrmanning原文

技巧 Agent 与开发者多源确认04:00

观点：强实验室的真正优势是有一批深度使用 LLM 的工程师

一条关于为什么顶尖 AI 实验室招人看 LLM 使用品味的推文，作者连 GPU 内核和 Minecraft 克隆该选哪个练手都给了说法，做 AI 工程的人可以看看。

#LLM #GPU内核 #工程师招聘 #Three.js

事件专题

Teortaxes@teortaxesTex3 个信源在谈原文

行业 Agent 与开发者精选01:09

a16z Martin Casado 对谈 MakerMaker.AI CTO：多数 RSI 项目只是在卖蒸汽机时代的老概念

a16z 的 Casado 和 MakerMaker.AI CTO 聊怎么识别真假 RSI：关键看模型自己是不是被优化的对象，判断框架很实用。

#RSI #MakerMaker.AI #a16z #递归自我改进

a16z@a16z原文

论文 Agent 与开发者00:13

LLM 语义查询引擎实测：temperature 0 下结果仍最高 24% 变动

跑了120万次调用才发现，temperature 0 的语义查询结果也会变，三个知名基准的结论不少站不住，做数据管线的人该看看。

#SemBench #LRO-Bench #UDA-Bench #LLM

arXiv cs.AI@Oktie Hassanzadeh, Dharmashankar Subramanian原文

行业 Agent 与开发者精选22:26

HuggingFace 多个头部开源模型下载量突降约 30%

开源模型下载量集体掉了三成，Nathan Lambert 怀疑是 HuggingFace 改了统计口径，关注开源榜单的人可以看看。

#HuggingFace #开源模型 #下载量 #LLM

AI Will@FinanceYF5原文

行业 Agent 与开发者多源确认21:26

Karpathy：全球75%的人几乎没用过大模型，少数内部人员却已用智能体集群干活

Karpathy 说全球75%的人没用过 LLM，而内部那约5000人已经在用智能体集群干专家级的活，这个信息差值得看看。

#Andrej Karpathy #OpenAI #LLM #智能体

事件专题

官方账号Decoder@Matthias Bastian11 个信源在谈原文

行业20:50

杨立昆在首尔表示：AI 下一次突破不来自 LLM，而来自世界模型

杨立昆在首尔放话，LLM 不是终点，他押注的世界模型到底是什么，这篇讲得挺清楚。

#Yann LeCun #LLM #世界模型 #AMI Labs

IT之家原文

论文 Agent 与开发者18:20

一本讲智能体 LLM 怎么行动、怎么互相协作的新书，免费放在 arXiv 上，想系统了解 Agent 原理可以翻翻。

#Agentic LLM #arXiv #智能体 #LLM

arXiv cs.AI@Max van Duijn 等 4 人原文

行业 Agent 与开发者83°10:14

Karpathy：AI认知分化为四个层级

Karpathy解释了AI认知为何分化成四个层级，不同层级的人看到的能力差距有多大。

#Andrej Karpathy #LLM #ChatGPT #AI认知

shao__meng@shao__meng原文

技巧 Agent 与开发者精选06:27

用确定性代码替代LLM调用

Garry Tan分享的LLM调用优化技巧，帮你写出更符合用户需求的代码

#LLM #确定性代码 #代码优化

Garry Tan@garrytan原文

行业 Agent 与开发者83°04:26

大模型能力认知差距扩大

Karpathy分析大模型用户分层，从普通用户到顶级研究者，差距正在扩大。

#LLM #ChatGPT #Karpathy #AI能力差距

官方账号Andrej Karpathy@karpathy原文

行业 Agent 与开发者01:39

谷歌LeetCode面试被AI取代

谷歌前员工分享：AI已让传统编程面试过时，现在测试候选人AI使用能力

#LeetCode #LLM #谷歌 #编程面试

Yuchen Jin@Yuchenj_UW原文

论文 Agent 与开发者精选19:27

Amazon 论文：用 LLM 预测训练实验收益

Amazon 这篇论文说，把历史实验记录喂给 LLM，它就能提前猜出哪个训练改动有用，OLMo3-100M 上相关性冲到 0.892，比硬堆推理努力管用。

#Amazon #LLM #OLMo3 #实验预测

rohanpaul_ai@rohanpaul_ai原文

论文中美对照精选04:29

清华牛津斯坦福论文：关闭思考后LLM仍会推理

这篇论文测了DeepSeek-V4-Flash等模型：关掉思考开关，开放式问题里99.9%还是忍不住推理，硬逼它只给答案准确率掉15分。

#DeepSeek-V4-Flash #推理模型 #思维链 #LLM

事件专题

rohanpaul_ai@rohanpaul_ai2 个信源在谈原文

论文 Agent 与开发者03:49

论文：换代模型发布后，AI文本检测器识别率从99%跌至3.8%

检测器换代前抓99%的AI改写文本，换代后只剩3.8%，用AI检测工具的人真该看看这个数据。

#AI文本检测 #LLM #学术论文 #AI生成内容识别

rohanpaul_ai@rohanpaul_ai原文