SSM 对角等价性研究：统一 Mamba 1-3 并提出 SSD-MIMO 检索扩展

这篇论文对线性转移的状态空间模型做了对角等价性分类，证明该类可通过共享的 token 局部矩阵映射与带乘性掩码的标量模式线性注意力对应。论文提出的 SSD-MIMO 通过为每个局部接口路由独立值，把局部检索秩提升到 1 以上，HybridMamba 则混合了 Mamba 1 的逐坐标衰减、Mamba 2 式头和 Mamba 3 的复数旋转。在 5 个 H100 bfloat16 工作负载上，其融合 GPU 核在匹配 SISO 配置下的训练时间几何均值优于官方 Mamba 1/3。约 500M 参数的实验显示两种设计在 2B token 测试损失上改进了 Mamba 1/2，但在语言模型损失上仍落后于 Mamba 3 MIMO。