300gb

general · 首次出现 2026-07-07 · 最近出现 2026-10-20 · 累计提及 5

综述

300GB 指的是约 300 吉字节这一存储或显存容量量级,在 AI 领域常用来描述开源大模型权重下载体积和本地部署所需的内存门槛。随着百亿到千亿参数模型的开放权重发布,单个模型文件包达到数百 GB 已经成为常态,300GB 左右的下载量和运行配置正逐渐成为消费级与工作站级硬件的分水岭。

300GB 级开源模型的部署门槛

开源大模型的权重体积是 300GB 这一数字最常被提及的场景。2026 年 7 月 6 日,腾讯发布了 295B 参数的混合专家(MoE)开源模型 Hy3。这类近 3000 亿参数的模型即便经过量化压缩,完整权重通常也在 300GB 上下,意味着用户若想本地运行,往往需要多张高显存 GPU 或大容量内存的服务器。Tencent发布Hy3:295B参数MoE开源模型

围绕这一门槛,社区也在探索低成本方案。有测试者将 4 张 Tesla V100 通过 NVLink 组成集群来跑大模型推理,结果显示其速度跑赢了 2 台 DGX Spark,说明用二手数据中心卡拼装多卡节点,仍是拿到 300GB 级推理显存的高性价比路线之一。4 张 Tesla V100 组 NVLink 集群,AI 推理速度跑赢 2 台 DGX Spark

存储容量需求的水涨船高

不只是模型权重,端侧设备的存储需求也在逼近这一量级。2026 年 8 月 12 日的 Hacker News 热点讨论中,本地大模型部署与存储成本是关注焦点之一,反映出社区对大体积模型落地难点的持续讨论。2026 08 12 HackerNews

在汽车领域,存储用量同样在快速攀升。美光预估 2026 年平均每辆汽车将使用 278GB 的 DRAM 和 NAND 存储,较 2023 年增长 208.89%。虽然离 300GB 只差一步,但按当前增速,单车 300GB 存储配置很快会成为行业常态。较 2023 年增 208.89%!美光预估 2026 平均每辆汽车用 278GB DRAM 和 NAND 存储

当前焦点与观察点

目前围绕 300GB 这一容量节点的讨论主要集中在三点:一是开源大模型权重体积何时能通过更强的量化与稀疏化技术降到消费级硬件可承受的范围;二是多卡 NVLink 集群、统一内存等方案能否稳定压低 300GB 级推理的入门成本;三是端侧与车载存储从 278GB 向 300GB 及以上演进后,供应链和成本如何消化。可以预期的是,随着参数规模继续增长,300GB 会从“大模型”门槛逐步变成中等规模模型的常规配置。

相关报道

5 条在档
300gb · AI 话题观测|AI热报