03:04官方一手marktechpost@Asif Razzaq精选Liquid AI发布了LFM2.5-DSpark模型。该模型通过推测性解码技术,在保持输出结果不变的情况下,将解码速度提升了最高3.18倍。新模型包含三个约3亿参数的drafters。AI模型Liquid AILFM2.5推测性解码推荐理由:Liquid AI给LFM2.5模型加了三个drafters,解码速度能快3.18倍,但输出结果和原来一模一样,不用改现有应用就能用。原文稍后读已读值得跟进有用关注 Liquid AI
14:08IT之家(博客/媒体)83°OpenAI 于7月29日部署 GPT-5.6 Sol 模型优化 GPT-5.6 系列推理链路。该模型通过 Codex 分析生产流量并学习 Triton 和 Gluon 语言,自主改写 GPU 内核,使端到端服务成本降低最多20%。此外,优化推测性解码后,token 生成效率提升超过15%。OpenAI 还使用开源工具 FpSan 验证内核正确性。AI模型GPT-5.6 SolOpenAI推理优化10 个信源在谈事件专题推荐理由:OpenAI 让自家模型 GPT-5.6 Sol 反过来优化自己的推理,成本降了20%,token 生成快了15%,挺有意思的。原文稍后读已读值得跟进有用关注 GPT-5.6 Sol