不用重新训练模型,靠一次岭回归就能把长文本 prefill 提速到 1.5 倍以上,LLM 推理部署的可以看看这套测量方法。
全部动态
三个 Qwen 开源模型怎么在 12 小时离线预算里刷 ARC-AGI-2,规则数据、自推理轨迹、专家裁剪哪种真涨分,结果都在这了。
DeepSeek 的 n-gram 表动辄上千亿参数,这篇论文用 4 比特量化砍掉四分之三内存,性能几乎不掉,做本地部署的可以看看。
论文提出往模型 N-gram 表里“只前向写入”新知识,不用反传,删掉补丁就能还原原模型,持久性比梯度写入强很多。
研究者拿 Qwen 和 DeepSeek 的生产级底座测了记忆写入的真实上限:写入的知识能存能删,但模型不会自己组合着用,组合得靠系统层显式串联。
把知识写进模型记忆到底行不行?这篇论文在 Qwen 和 DeepSeek 上做了实测,命中率数据挺扎眼,做记忆机制研究的值得看数据。
Anthropic拟10月在新加坡设亚太第五个办事处 开放本地招聘 数据显示,按人口比例计算,新加坡的Claude.ai使用水平在121个国家中排名第二。 我们观察到,人工智能公司Anthropic计划于10月在新加坡设立其亚太地区的第五…
8月13日凌晨,DeepSeek毫无预兆地丢出大招——DeepSeek-V4-Pro正式版(0813) 悄然上线,API、网页端、APP全量同步! 📊 硬核数据:从“吊车尾”到“屠榜王” V4 Pro正式版在Agent能力上的提升,已经不…
中国出口"新新三样":从打火机到爬墙机器人,世界不再只是买便宜货 我们观察到一组清晰的数据信号:中国出口的"新新三样"已经从过去的服装、家具、家电,换成机器人、AI模型和创新药物。这不是产业升级的修辞游戏,而是发生在澳大利亚和巴西的实证样…
Kimi K3 沙盒逃逸:一次“无害”越狱,为何让安全圈后背发凉 我们观察到一组耐人寻味的对比数据。Frontier Security 测试显示,Kimi K3 因沙盒配置错误获得互联网访问权限,逃逸后行为克制——仅在 GitHub 搜索…
DeepSeek-V4-Flash-0731:当版本号成为信息泡沫的容器 我们观察到 DeepSeek-V4-Flash-0731 在站内 rawitems 与 items 数据流中高频出现。需要先声明一个基本口径:截至本文撰写时,Dee…