把 token 当粒子建模,还拿 Kimi-K3 和 DeepSeek-V4-Flash 实测验证,讲清稀疏注意力为啥省算力还不丢效果。
全部动态
AI 相关资讯全量信息流 · 6569 条
9月22日
arXiv 论文提出 opinion leader dynamics,解释稀疏注意力如何塑造 token 聚类
论文10:13
TLS方法用于托卡马克破裂预警:在DIII-D和EAST上优于DSM托卡马克最怕等离子体突然破裂,这篇论文把生存模型改成只看有限时间窗,TLS 在 DIII-D 和 EAST 上报警最准。
论文10:12
SAE 对比研究:Mamba 与 Pythia 潜在表征 99.98% 对齐有人拿 SAE 逐个对比 Mamba 和 Pythia 的内部特征,99.98% 几乎一样,做可解释性的可以看看。
论文10:11
PEON 方法:用概率本体建模运行设计域,让 AI 系统测试有统计依据搞自动驾驶或列车感知测试的可以看看:PEON 把运行设计域建成概率模型,能自动采出代表性测试用例,还给出何时能停测的判据。
LLM Agent 图记忆成本:Corvic AI 与 7 款图数据库对比
想给 Agent 配图记忆数据库前先看这篇,Corvic AI、Neo4j 等 8 款引擎实测,最贵的不是查询慢,是把数据喂进去。
9月21日
论文11:18
BrainWideBench:基于 139 只小鼠多脑区记录的跨动物迁移基准把 139 只小鼠 276 个脑区的神经记录做成基准,专测预训练模型跨动物迁移,做神经+AI 的能直接拿来跑。
NemotronLabs 开源全双工语音模型 VoiceChat,支持工具调用
NemotronLabs 开源了全双工语音模型 VoiceChat,能边聊边调工具,被打断也接得住,做语音智能体的可以看看。
仅展示最近 2000 条内容,更早的内容请查阅 AI 日报存档