论文Agent 与开发者10:00REACT:通过干预思维链早期隐状态提升推理模型安全输出这篇论文找到了干预思维链的最佳时机:开头两三个 token。在 DeepSeek-R1-Distill-8B 上把安全输出率从 29% 拉到 82%,权重还不用动。#REACT#DeepSeek-R1-Distill-Llama-8B#思维链#AI安全aarXiv: DeepSeek@Hanwen Zhang 等 5 人原文稍后读已读值得跟进有用关注 REACT
模型Agent 与开发者19:13iS-KV:基于块增量 SVD 的在线 KV 缓存压缩方法长链推理时 KV 缓存会爆炸,这篇提出用增量 SVD 压到 4-5 倍还能保住准确率,比删 token 的老办法稳,做推理部署的可以看看。#KV缓存#SVD#DeepSeek-R1-Distill-Llama-8B#Qwen3-8BaarXiv: DeepSeek@Yiren Zhao 等 6 人原文稍后读已读值得跟进有用关注 KV缓存
论文Agent 与开发者精选13:05LLM用于JavaScript代码漏洞识别的研究朋友,有个研究挺有意思,用大模型(比如Gemini 1.5 Flash)来识别JavaScript代码里的漏洞,准确率能到60%,比传统工具强多了。#Gemini 1.5 Flash#GPT-4o Mini#DeepSeek-R1-Distill-Llama-8B#漏洞识别aarXiv: DeepSeek@Manit Kaushik 等 5 人原文稍后读已读值得跟进有用关注 Gemini 1.5 Flash
论文Agent 与开发者精选10:32多租户LLM服务中KV缓存竞争可靠性研究研究揭示了多租户环境下LLM服务KV缓存时序攻击可靠性随负载变化的规律,对实际部署安全有重要参考价值。#KV缓存#时序侧信道#DeepSeek-R1-Distill-Llama-8B#vLLMaarXiv: DeepSeek@Rana Abu Bakar原文稍后读已读值得跟进有用关注 KV缓存