#NKI

共 1 条 · 7 天 1 条 · 30 天 1 条
信息流里打上「NKI」标签的资讯、产品与论文,按刊登时间排,新的在上。
11月10日
在 AWS Trainium 上用 GPSIMD 自定义算子加速 DeepSeek-V4.1-Flash Engram 模块

把 DeepSeek-V4.1-Flash 的 Engram 记忆模块搬到 Trainium 3 上跑,作者自己写 C++ 算子塞进 GPSIMD 核心,n-gram 哈希快了 1.79 倍,表查找快近 5 倍。在 AWS 上部署记忆增强 LLM 的工程团队可以看看这套绕过官方工具链限制的做法。

arXiv: DeepSeek@Zifan He, Jason Cong原文