#推测性解码
共 3 条 · 7 天 0 条 · 30 天 0 条
信息流里打上「推测性解码」标签的资讯、产品与论文,按刊登时间排,新的在上。
9月17日
8月21日
Liquid AI发布LFM2.5-DSpark模型,解码速度提升3.18倍
Liquid AI给LFM2.5模型加了三个drafters,解码速度能快3.18倍,但输出结果和原来一模一样,不用改现有应用就能用。
7月30日
OpenAI 用 GPT-5.6 Sol 优化自身推理,服务成本降20%
OpenAI 让自家模型 GPT-5.6 Sol 反过来优化自己的推理,成本降了20%,token 生成快了15%,挺有意思的。