96GB是当前高端AI芯片和大模型运行的重要内存配置，特别是特斯拉最新AI5芯片的内存容量。近期，特斯拉将AI5芯片内存从72GB上调至96GB，反映了AI计算对大内存需求的持续增长。
96GB 近期进展
72GB上调至96GB，马斯克确认特斯拉AI5芯片内存规格提升，这一调整将显著增强AI模型的处理能力。马斯克改口：特斯拉 AI5 芯片内存由 72GB 上调至 96GB
96GB内存正成为高端AI工作站的标配，宏碁Veriton RI迷你AI工作站和雷神水冷迷你AI工作站均采用大容量内存设计，满足AI计算需求。宏碁发布Veriton RI110迷你AI工作站 雷神水冷迷你 AI 工作站评测：锐龙 AI Max+ 395，176W 峰值性能
295B参数的腾讯混元大模型通过量化技术实现单卡本地运行，这得益于大容量内存的支持，使AI应用更加普及。腾讯混元发布Hy3 1bit与4bit量化版，295B模型可单卡本地运行
当前焦点与观察点
12800MT/s传输速率的宜鼎DDR5 MRDIMM Gen2内存模组代表了内存技术的发展方向，为更高性能的AI计算提供支持。宜鼎发布 DDR5 MRDIMM Gen2 内存模组，支持 12800MT/s 传输速率
96GB内存配置代表了当前AI计算的前沿水平，随着模型复杂度提升，这一配置可能会成为更多AI硬件的标准配置。同时，锐龙AI Max+系列处理器在AI工作站中的应用也表明，大内存与大算力的结合是AI硬件发展的必然趋势。