斯坦福 CS336 第 10 讲：从数学主线讲透 LLM 推理优化
Percy Liang 把 KV cache、GQA、投机采样这些推理优化串成一条数学主线，讲义公式全用 sympy 可验证，想搞懂推理为啥慢的必看。
#投机采样
共 1 条 · 7 天 1 条 · 30 天 1 条
信息流里打上「投机采样」标签的资讯、产品与论文，按刊登时间排，新的在上。
10月18日
Percy Liang 把 KV cache、GQA、投机采样这些推理优化串成一条数学主线，讲义公式全用 sympy 可验证，想搞懂推理为啥慢的必看。
