AI加速器相关 AI 资讯 · AITOP

8月31日

15:06

15:06IT之家（博客/媒体）

精选73°

三星电子正为NVIDIA开发定制HBM内存产品，采用8层低堆叠设计，支持17~18Gbps高引脚速率。这款产品被称为HBM4E和NVHBM，比三星此前出样的HBM4E内存最高16Gbps速率更高。低堆叠设计可减少DRAM Die用量、提升生产良率，从而压低制造成本。

行业三星电子英伟达 HBM

事件专题

推荐理由：三星给英伟达定制新HBM，8层堆叠+17-18Gbps速率，比自家旧款快1-2Gbps，能解决AI加速器的内存墙问题。

原文

8月27日

08:13

08:13IT之家（博客/媒体）

78°

英伟达推出NVHBM定制高带宽内存，带宽提升30%，功耗降低15%，与标准HBM4e相比，NVHBM每个内存堆栈的带宽最高提升30%，功耗降低15%，可释放更多封装空间，用于计算功能。NVHBM已与内存厂商完成设计和验证，首个合作伙伴为Annapurna Labs。

AI产品英伟达 NVHBM 高带宽内存

推荐理由：英伟达新推NVHBM，带宽功耗双提升，与HBM4e相比，NVHBM带宽提升30%，功耗降低15%，适合AI加速器，值得关注。

原文

8月25日

03:24

官方一手AWS Machine Learning Blog@Nneoma Okoroafor

精选

学习如何构建一个可定制的智能缓存知识管理系统，通过语音优先的AI形象捕捉和传递机构知识。使用Amazon Bedrock知识库进行检索增强生成，并利用AWS CloudFormation数小时内部署。

AI产品 AWS 知识管理系统 Bedrock知识库

推荐理由：AWS教你如何快速搭建AI知识管理系统，用Bedrock知识库提升检索效率，语音交互更便捷。

原文

8月24日

18:28

官方账号Decoder@Maximilian Schreiner

Cerebras推出CS-4 AI加速器，CEO Andrew Feldman称其为行业最快系统。CS-4在相同芯片上实现性能翻倍。

AI模型 Cerebras AI加速器性能翻倍

推荐理由：Cerebras发布CS-4，性能翻倍，行业领先！

原文

8月7日

18:26

18:26IT之家（博客/媒体）

精选

韩国 NPU 企业 Mobilint 发布 USB 外接形态的边缘 AI 加速器 MLD-R1，基于 REGULUS AI SoC，提供 10TOPS INT8 精度算力。该设备集成 4 核 Arm Cortex-A53 @ 1.5GHz CPU，配备 4GB 或 8GB LPDDR4X-4267 内存，TDP 仅 3W。MLD-R1 支持 Keras、TensorFlow、PyTorch、ONNX 等框架，兼容 Windows、Linux 及 x86、Arm、RISC-V 主机。设备三维 90×40×16mm，USB 接口速率 5Gbps，宣称 IP65 防尘防水并支持 24×7 运行。

AI产品 Mobilint MLD-R1 REGULUS

推荐理由：想要给边缘设备加 AI 算力？Mobilint 这个 U 盘大小的加速器有 10TOPS INT8，3W 功耗还防水，支持常见框架，挺实用。

原文

7月24日

02:33

02:33IT之家（博客/媒体）

82°

AMD 在 Advancing AI 2026 上公布了下一代 AI 加速器 Instinct MI455X，采用台积电 2nm GAA 工艺，集成 3200 亿个晶体管。该芯片配备 432GB HBM4 内存，带宽达 23.3 TB/s，远超英伟达 Rubin 的 288GB HBM4 与 22 TB/s。MI455X 的 OCP MXFP4 理论峰值性能达 40.26 PFLOPS，是前代 MI355X 的 4 倍。Helios 机架架构将 72 个 MI455X 的显存整合为统一相干域，总容量 31.1TB，比英伟达 NVL72 的 20.7TB 高出 50%。

AI模型 AMD MI455X HBM4

推荐理由：AMD 亮出真家伙：MI455X 堆了 432GB HBM4 和 3200 亿晶体管，FP4 算力比上代快 4 倍，72 卡显存比英伟达 Rubin 多一半，直接对标 NVL72。

原文

6月23日

11:30

11:30IT之家（博客/媒体）

精选

JEDEC 正式批准 SPHBM4 标准（编号 JESD330-4），由 DRAM 委员会 JC-42.2 推动。SPHBM4 将信号引脚数从 HBM4 的约 2000 个降至约 400 个，每引脚速率从约 11 Gbps 提升至约 44 Gbps，总带宽保持约 2.8 TBps。该标准采用标准封装与基板，降低对中介层、先进基板等昂贵先进封装的依赖，旨在降低 AI 加速器、GPU 和 HPC 芯片的制造难度与成本。

行业 SPHBM4 JEDEC HBM4

推荐理由：JEDEC 刚批了 SPHBM4 内存标准，引脚数砍到 HBM4 的五分之一，速率飙到 44 Gbps，AI 芯片封装门槛大降。

原文

6月8日

12:30

12:30IT之家（博客/媒体）

精选

OWC 在 COMPUTEX 2026 上展示了其此前公布的 Stack AI 雷电 5“AI 加速器”的详细技术原理。该产品基于群联 aiDAPTIV 方案，通过雷电 5 接口将闪存纳入系统有效内存，将部分 AI 内存需求卸载到高耐久性 SSD 上，从而降低对 DRAM 的依赖。这使得大型 AI 智能体可以在本地运行，且外置设计比内置方案部署更灵活。

AI产品 AI加速器内存化闪存群联 aiDAPTIV

推荐理由：群联 aiDAPTIV 方案解决了本地运行大型 AI 模型时内存不足的痛点，做 AI 推理或本地智能体开发的团队，外置方案部署更灵活，值得关注。

原文

5月18日

11:46

官方账号arXiv cs.AI@Grant Wilkins, Fiodar Kazhamiaka, Alok Gautam Kumbhare, Chaojie Zhang, Ricardo Bianchini

精选

随着AI加速器需求激增，数据中心机架功率密度预计到2027年将接近每部署1MW，这对电力输送设计构成重大挑战。传统数据中心若针对不同密度目标设计，可能导致电力搁浅，即无法充分利用已配置的电力容量。论文提出一个评估框架，结合GPU、计算和存储部署的投影模型与微软Azure的生产数据，分析多资源搁浅对可部署容量、资本支出和性能的影响。结果表明，规划目标不应是装机兆瓦数，而是随时间变化的可部署容量。该框架帮助设计者在长期运营中保持效率，适应多代硬件和不断变化的工作负载。

论文数据中心电力层级 AI加速器

推荐理由：数据中心电力设计是AI基础设施的瓶颈，这篇论文用微软Azure的实际数据量化了电力搁浅的代价，做数据中心规划或AI硬件部署的团队值得一读。

原文