AITOPAI热报

int8

general · 首次出现 2026-06-02 · 最近出现 2026-09-24 · 累计提及 72

综述

int8是8位整数数据类型，在AI领域常用于模型量化，可将模型从32位浮点数转换为8位整数，从而减小模型体积并提升推理速度。近年来，随着边缘计算和移动设备对AI性能需求的增长，int8量化技术成为平衡模型精度与计算效率的关键解决方案。

int8 近期进展

韩国 Mobilint 推出 USB AI 加速器 MLD-R1，内置 10TOPS INT8 算力 韩 Mobilint 推 USB AI 加速器 MLD-R1，内置 10TOPS INT8 算力。D-Robotics 与 GigaAI 将 GigaBrain-0.7 集成到 Sunrise S600 边缘平台，支持 int8 量化推理 D-Robotics 与 GigaAI 将 GigaBrain-0.7 集成到 Sunrise S600 边缘平台。Axelera AI 推出 AIPU 芯片 Europa，算力达 629 TOPS，支持 int8 精度推理 Axelera AI 推出 AIPU 芯片 Europa，算力达 629 TOPS。

当前焦点与观察点

int8量化技术正成为AI芯片标配功能，从云端到边缘设备均广泛支持，2023年全球AI芯片中支持int8算力的比例已超过85%。模型量化研究持续深入，最新研究表明通过激活转向技术，int8量化在保持模型精度的同时可进一步减少30%的计算资源需求 量化大模型中的激活转向研究。int8技术在边缘计算场景中展现出显著优势，如Hao AI Lab利用int8量化实现Mac本地5B模型30秒生成480P视频的能力 Hao AI Lab推出Mac本地5B模型30秒生成480P视频。然而，int8量化仍面临精度损失挑战，特别是在复杂视觉和自然语言处理任务中，部分研究机构正探索混合精度策略以平衡性能与精度。

相关报道

10 条在档