事件专题 ·官方一手

LLVMhammer:通过 Rowhammer 位翻转让 LLM 推理变慢 4-16%

研究者提出 LLVMhammer,这是首个利用 Rowhammer 位翻转攻击拖慢 LLM 推理的方法,攻击目标是 Triton JIT 编译管线的优化 pass。位翻转让 Triton 生成功能相同但性能更差的 GPU kernel,且由于 Triton 会把编译好的 kernel 缓存到磁盘,一次攻击就能造成持久性变慢。实验在 NVIDIA RTX 4090 和 AMD RX 7900 XTX 上测试了 Qwen2.5-7B-Instruct、Llama-3.1-8B-Instruct、Mistral-7B-Instruct-v0.3、Deepseek-llm-7B-chat 四个模型,单 GPU 推理延迟增加 4-16%。位翻转还能破坏输出质量,BERTScore 最低降到 25%。

当前结论

有人用 Rowhammer 硬件攻击搞坏了 Triton 编译,四个主流模型实测慢 4-16%,搞 GPU 推理的都该看看这篇。

11 个信源36° AI 热度最后更新 2026/10/22 06:24:35

证据链

11 个信源
相关来源 4@atomic_chat_hq
查看原文
相关来源 5The Information
查看原文

冲突核查

现有去重数据只说明这些来源讨论同一事件,不代表立场相同。当前没有结构化的支持或反驳证据,不自动推断冲突。