Bandwidth

general · 首次出现 2026-05-23 · 最近出现 2026-10-14 · 累计提及 31

综述

带宽(Bandwidth)指单位时间内可传输的数据量,是决定网络通信、芯片互联与 AI 算力效率的核心资源指标。随着大模型推理和数据中心规模扩张,带宽正同时成为芯片设计、存储架构与电信基础设施三方面的竞争焦点。

带宽相关的近期进展

  • 高通骁龙芯片将整合 HBC 架构,提升端侧 AI 运行速度与能效:高通计划在骁龙芯片中引入 HBC 架构,通过改善数据搬运效率提升端侧 AI 的运行速度与能效,反映芯片厂商正把带宽优化下放到手机等终端设备。
  • 前英特尔 CEO 基辛格称 HBM 是“糟糕的内存”:高带宽内存(HBM)虽是当前 AI 芯片的主流选择,但基辛格公开质疑其成本与结构,行业对“如何获得更高带宽”的路线仍存分歧。
  • Characterizing High Bandwidth Flash for LLM Serving:有研究尝试用高带宽闪存替代部分内存角色来服务大模型推理,探索在 HBM 之外以更低成本扩展存储带宽。
  • AI dan Data Center Makin Haus Bandwidth, JLM Perkuat Kabel Laut RI-Singapura:AI 与数据中心对国际互联带宽需求持续攀升,JLM 正加强印尼与新加坡之间的海底光缆建设。
  • 印尼 Lintasarta 推出银行带宽按需服务,支持 1Gbps 灵活带宽:印尼运营商 Lintasarta 面向银行业推出 Bandwidth on Demand 服务,最高支持 1Gbps 的弹性带宽调配,带宽正从固定租用转向按需计费模式。
  • 当前焦点与观察点

    带宽之争目前在三个层面同时展开:芯片层面,HBM 与新兴互联架构(如 HBC)争夺端侧和服务器 AI 的数据通路主导权;存储层面,高带宽闪存等方案试图缓解大模型推理中内存带宽的瓶颈;网络层面,AI 流量增长推动海底光缆扩容和弹性带宽服务普及。值得观察的争议点在于 HBM 的性价比——它解决了带宽问题,但成本高昂,基辛格的批评代表了一部分替代路线的呼声。短期内,随着更多模型以自优化方式压榨硬件吞吐(如智谱 GLM-5.3-Flash 在超过 10 万块国产加速器上实现两周内从跑通到全量生产、端到端吞吐约 3.2 倍提升),软件层面的带宽利用率优化也可能成为与硬件升级同等重要的变量。

    相关报道

    10 条在档
    Bandwidth · AI 话题观测|AI热报