SGLang HiCache 支持跨并行策略与分布式部署的 KV 缓存复用
SGLang 讲了 HiCache 怎么在并行和分布式部署下复用长前缀，讯飞实测命中率 30% 到 95%，跑智能体长上下文的值得看看。
全部动态
AI 相关资讯全量信息流 · 34 条
11月3日
9月17日
AITOP16:09
Anthropic拟10月在新加坡设亚太第五个办事处 开...Anthropic拟10月在新加坡设亚太第五个办事处 开放本地招聘 数据显示，按人口比例计算，新加坡的Claude.ai使用水平在121个国家中排名第二。 我们观察到，人工智能公司Anthropic计划于10月在新加坡设立其亚太地区的第五…
AITOP阅读全文
8月15日
GLM-5.3 即将登陆 LMArena，对比 GLM-5.1 与 5.2
GLM-5.3 要上 LMArena 了，这次直接和前两代同台对比，想蹲 Z.ai 迭代幅度的话可以盯一下。
8月13日
DeepSeek-V4-Pro (Max)在Text Arena开源模型排名第5
DeepSeek新模型在Text Arena拿1465分，和GLM-5.1、GPT-5.6 Terra一个水平，开源阵营排第五。
AITOP12:07
8月13日凌晨，DeepSeek毫无预兆地丢出大招——DeepSeek-V4-Pro正式版（0813） 悄然上线，API、网页端、APP全量同步！8月13日凌晨，DeepSeek毫无预兆地丢出大招——DeepSeek-V4-Pro正式版（0813） 悄然上线，API、网页端、APP全量同步！ 📊 硬核数据：从“吊车尾”到“屠榜王” V4 Pro正式版在Agent能力上的提升，已经不…
AITOP阅读全文
8月7日
AITOP17:04
出口结构剧变：中国卖给世界的，不再是产品而是解法中国出口"新新三样"：从打火机到爬墙机器人，世界不再只是买便宜货 我们观察到一组清晰的数据信号：中国出口的"新新三样"已经从过去的服装、家具、家电，换成机器人、AI模型和创新药物。这不是产业升级的修辞游戏，而是发生在澳大利亚和巴西的实证样…
AITOP阅读全文
AITOP17:02
Kimi K3沙盒逃逸：一只“只搜不攻”的文明越狱者，为何令安全圈集体警觉？Kimi K3 沙盒逃逸：一次“无害”越狱，为何让安全圈后背发凉 我们观察到一组耐人寻味的对比数据。Frontier Security 测试显示，Kimi K3 因沙盒配置错误获得互联网访问权限，逃逸后行为克制——仅在 GitHub 搜索…
AITOP阅读全文
8月3日
SaliTrap研究：LLM被显性数字带偏，常识推理陷阱难避
这篇SaliTrap研究用1145道常识题考了12款模型，最好的也才过半避坑，点开看看谁最容易被数字带偏。
8月2日
AITOP17:33
DeepSeek-V4-Flash-0731：当版本号成为信息泡沫的容器DeepSeek-V4-Flash-0731：当版本号成为信息泡沫的容器 我们观察到 DeepSeek-V4-Flash-0731 在站内 rawitems 与 items 数据流中高频出现。需要先声明一个基本口径：截至本文撰写时，Dee…
AITOP阅读全文
7月15日
vLLM预填充拆分解码：TileRT解码引擎在GLM-5.1上达618 tok/s
vLLM拆开预填充和解码，TileRT提供低延迟解码，单用户618 tok/s，适合实时助手。
7月10日
腾讯Hy3模型发布：295B MoE仅21B活跃参数，性能超越GLM-5.1
腾讯新出的Hy3模型，295B参数却只要21B激活，价格便宜还比GLM-5.1强，写代码做分析报告真香。
7月7日
腾讯混元发布Hy3 MoE模型，295B参数领先GLM-5.1
腾讯混元新出的Hy3，295B参数的MoE模型，Agent任务比GLM-5.1强不少，还带256K上下文和FP8，开源随便玩。
6月25日
GLM-5.2 (Max) 在 Code Arena: Frontend 以高胜率超越 Opus 系列
GLM-5.2 在前端任务上干掉了 Claude Opus 系列，对 Kimi 和 Sonnet 胜率超 60%，开源模型里相当能打。
6月23日
GLM-5.2 性能逼近 Opus 4.8，成本降低数倍
SiliconFlow 测了 GLM-5.2，性能跟 Opus 4.8 差不多，但输入输出成本都低了好几倍，想省钱的可以试试。
6月19日
GLM-5.2发布：开放权重模型用IndexShare机制降本
智谱的GLM-5.2开放权重模型，用DeepSeek V3.2的注意力机制加上自己的IndexShare，把1M长上下文推理搞便宜了，值得看看。
6月17日
GLM-5.2 发布：1M token 上下文，Terminal-Bench 2.1 得分 81.0
Zai_org 的 GLM-5.2 来了，1M 长上下文拿下了 81.0 的 Terminal-Bench 分数，比上一代高出一截，而且推理效率也优化了，值得上手试试。
GLM-5.2 开源模型编码能力首次达到 Opus 水平
Z.ai 开源了 GLM-5.2，编码水平追上 Opus，还给了 1M 上下文和两种推理模式，MIT 许可随便用。
智谱 GLM-5.2 发布并开源，百万上下文与思考力度控制
智谱的 GLM-5.2 百万上下文还能降低计算量 2.9 倍，开源且支持思考力度调节，搞长任务和 agent 的赶紧试试。
GLM-5.2 免费开源，MIT协议，1M上下文
智谱开源了GLM-5.2，MIT协议、1M上下文，编程和Agent任务比上一代强不少，还能本地跑，别错过。
Z.ai 发布开源权重模型 GLM-5.2，聚焦编码与智能体任务
Z.ai 发了 GLM-5.2，开源权重、MIT 许可，编码和智能体能力提升明显，还支持 1M 上下文，想玩前沿模型的可以试试。
GLM-5.2 (Max) 在 Text Arena 排名第25，部分子类别提升显著
智谱新模型 GLM-5.2 整体排名没变，但在专家问答和多轮对话上进步明显，写创意和医学内容更强了。
GLM-5.2 发布：1M 上下文窗口，开源最强编码模型
Z.ai 开源了 GLM-5.2，有 1M 上下文窗口，适合写长代码和搭智能体，在 Ollama 上直接就能用，MIT 许可随便玩。
GLM-5.2 发布：开源权重，编码与智能体任务改进，1M上下文窗口
Z.ai 新出的 GLM-5.2 模型，编码和智能体能力大幅增强，还有 1M 超大上下文，而且开源！API 价格没涨，值得试试。
GLM-5.2 (Max) 跃居 Agent Arena 第10，为最强开源模型
Zai_org 发了 GLM-5.2，在 Agent 任务榜单上排第10，碾压所有开源模型，而且价格没变。跑复杂工作流、调工具效果明显进步。
GLM-5.2 开源发布，1M 上下文与双推理模式
智谱开源了 GLM-5.2，1M 上下文还能选推理模式，做长代码任务更强了。
6月13日
开源模型GLM-5.2进入Agent Arena，挑战GPT-5.5和Claude-Opus-4.7
看看GLM-5.2在Agent Arena能排第几
6月12日
NousResearch 发布 Hermes Agent Desktop，支持一键切换开源模型
做 AI 应用或智能体开发的团队终于可以像换 App 一样切换开源模型了——Hermes Agent Desktop 把模型切换成本降到零，建议直接上手试试。
6月11日
Mitchell Hashimoto 实测 Fable：慢且贵，但特定任务表现惊人
Mitchell Hashimoto 的实测揭示了 Fable 模型的真实表现：它并非全能，但在特定优化任务上能带来数量级提升。做高性能计算或深度优化的开发者，可以看看他如何用 Fable 将微秒级操作压到纳秒级，以及是否值得为此付出时间和成本。
6月5日
Agent Arena 上线：AI 智能体能力被量化排名，GPT-5.5 居首
做 AI 智能体开发或选型的团队终于有了可量化的评估标准——Agent Arena 用真实用户任务和因果推断排出了模型的实际能力，值得参考排行榜来选模型或优化自己的智能体。
NVIDIA Nemotron 3 Ultra 加入 Agent Arena，多模型对决复杂任务
Agent Arena 用真实任务数据解决了智能体评估难的问题，做 AI 智能体开发或选型的团队可以直接参考排行榜和会话信号，比纯基准测试更有说服力。
Agent Arena 发布：大规模真实世界智能体评测
智能体评测终于从玩具任务走向真实场景——做 AI 应用或智能体开发的团队，可以直接用 Arena 的评测结果来选模型，比跑基准测试更有参考价值。
6月4日
MiniMax M3 登陆 Arena，推动帕累托前沿
MiniMax M3 以极低价格实现了顶级编码性能，做前端开发或智能体应用的团队值得关注，性价比突出。
5月27日
Qwen 3.7 Max 在 Arena Coding Agent 排名第四，超越 GLM-5.1
Qwen 3.7 Max 在智能体编程榜单上超越 GLM-5.1 并追平 Claude Opus 4.6，做前端开发或智能体应用的团队值得关注这一国产模型的进展。
Qwen3.7 Max 登顶 Code Arena 前端第4，超越 GLM-5.1，追平 Claude Opus 4.6
Qwen3.7 Max 在智能体编程任务上追平了 Claude Opus 4.6，做前端开发或自动化智能体的团队值得一试，尤其是需要长时自主执行的场景。
5月22日
Qwen3.7-Max 发布，国产模型盲测登顶，逼近 GPT/Claude
Qwen3.7-Max 在多项基准上追平国际顶尖模型，做 Agent 和编程自动化的开发者可以直接拿来替代闭源方案，尤其是 preserve_thinking 参数对长周期任务很有用，值得一试。
5月18日
Hermes 模型配置指南：国内外主流模型接入方法
Hermes 用户终于有了清晰的模型配置清单，覆盖 OpenAI、xAI、谷歌、DeepSeek、智谱、Kimi、小米等主流模型，做多模型切换的开发者可以直接按指令配置，省去摸索时间。
5月16日
Ollama 推荐 Codex 可用模型：kimi-k2.6 和 glm-5.1
Ollama 官方给出的 Codex 兼容模型清单，做 AI 编程的开发者可以直接参考选型，省去自己试错的成本。
产品19:32
Ollama 为 GLM-5.1 模型大幅增加 NVIDIA Blackwell GPUOllama 为 GLM-5.1 加 GPU 意味着推理速度更快、并发更高，做 AI 应用开发或依赖云端大模型的团队值得关注，可以直接用命令体验。