144gb

general · 首次出现 2026-07-22 · 最近出现 2026-10-17 · 累计提及 10

综述

144GB 通常指单张 AI 加速卡或一颗车规级推理芯片所搭载的显存/内存容量上限,是当前大模型推理硬件选型中的一个关键分水岭——在这个量级上下,厂商需要在算力、成本与功耗之间做出取舍。2025 年以来,围绕特斯拉 AI5/AI6 芯片与定制 GPU 显存配置的一系列消息,让这一容量规格成为业内讨论的焦点。

144GB 相关的芯片配置动态

  • 马斯克改口:特斯拉 AI5 芯片内存由 72GB 上调至 96GB:特斯拉最初计划为 AI5 配备 72GB 内存,马斯克随后将其上调至 96GB。这一调整说明即便在车端场景,模型规模扩张也正在推高内存需求,而 96GB 距离 144GB 仍有明显差距。
  • 特斯拉为 Optimus 量产削减 AI5/AI6 芯片内存:为控制 Optimus 人形机器人的量产成本,特斯拉在芯片内存规格上做了削减,反映出内存容量与量产成本之间的直接冲突。
  • 马斯克批评内存厂商漫天要价,称美光定价合理:内存价格上涨已成为芯片规格决策的重要变量,马斯克公开批评部分厂商定价,同时认可美光的报价,侧面印证了大容量内存供应的紧张。
  • 曝 Meta 定制版 AMD MI450 架构 GPU 仅具备 1/2 计算单元和 1/3 显存容量:Meta 选择削减定制 GPU 的显存与算力规格,显示超大规模厂商在自建推理集群时同样在压缩内存开销。
  • 当前焦点与观察点

    144GB 之所以被反复提及,是因为它对应了当前主流大参数模型单卡推理的“舒适区”容量:低于这一水平,就需要依赖量化、模型切分或多卡互联;达到或超过它,则可以简化部署架构。但内存容量与价格高度联动,2025 年底的内存涨价潮让特斯拉、Meta 等大客户纷纷下调规格预期,而非追求更高容量。

    后续值得观察的方向包括:一是特斯拉 AI6 最终量产版本的内存配置是否会向 144GB 量级靠拢;二是美光、三星、SK 海力士的 HBM 与 LPDDR 供给能否缓解涨价压力;三是 Rebellions 等 AI 推理芯片厂商与 NVIDIA 的合作走向,可能改变中低容量推理市场的格局。对普通开发者而言,短期内“更少内存跑更大模型”的软件优化,仍将比等待硬件扩容更现实。

    相关报道

    7 条在档