事件专题 ·单一信源

STEPQuant:Delta规则循环状态量化研究

STEPQuant是一种针对Delta规则循环状态的空间-时间后训练量化框架。该研究在Qwen3.8-27B和Kimi-Linear-48B-A3B-Instruct模型上进行了测试,在6位精度下接近FP32精度,4位配置优于均匀INT8。集成到SGLang后,6位STEPQuant实现了超过5倍的循环状态压缩,将服务内存减少高达68.7%。

当前结论

清华团队提出STEPQuant,根据误差大小和内存寿命分配精度,在Qwen和Kimi模型上显著降低内存使用。

2 个信源58° AI 热度最后更新 2026/9/29 17:59:40

证据链

2 个信源
相关来源 1阿里通义 Qwen
查看原文

冲突核查

现有去重数据只说明这些来源讨论同一事件,不代表立场相同。当前没有结构化的支持或反驳证据,不自动推断冲突。