#后训练量化
共 3 条 · 7 天 0 条 · 30 天 0 条
信息流里打上「后训练量化」标签的资讯、产品与论文,按刊登时间排,新的在上。
8月13日
6月10日
PiSO:高效找到最优后训练量化尺度
大模型量化部署的团队终于有了一个理论扎实的尺度优化方法——PiSO 在低位宽下效果尤其显著,做模型压缩的开发者可以直接参考论文中的算法实现。
5月13日
ScaleSearch:搜索块浮点缩放因子,提升量化精度
做模型量化和推理加速的团队终于有了更优的缩放策略——ScaleSearch直接提升精度且兼容现有方法,建议做低精度部署的开发者试试。