产品精选

群联展示内置 NPU 与 64GB 内存的智能固态硬盘,可在盘上运行 AI 模型

群联展示内置 NPU 与 64GB 内存的智能固态硬盘,可直接运行 AI 模型

精选理由

群联把 NPU 和 64GB 内存塞进了 SSD,llama.cpp、vLLM 这些框架可以直接在盘上跑推理,数据不用再搬到主机。混合介质那款对搭 AI 存储集群的工程师也有参考价值。

群联在 SC26 大会上展示两款面向 AI 场景的企业级 SSD。其中一款内置 NPU 和 64GB 内存,带宽达到 130GB/s,可直接在硬盘上运行 PyTorch、vLLM、OpenVINO 和 llama.

正文

cpp 等推理框架。设计思路是把计算任务下沉到存储设备,硬盘本地处理数据后只向主机返回结果。

群联称该方案在特定工作负载下能将数据传输量减少 10 至 100 倍,同时降低主机 CPU 负载。另一款采用 Mixed Media 混合介质设计,用一颗 16 通道主控同时管理高耐久性的 pSLC 缓存与大容量 QLC 闪存,并将部分 QLC 切换到 SLC 模式提升写入性能。

两个区域分配独立命名空间,主机按数据类型选择写入区域,无需专用软件。在 24 块 SSD 的系统中单盘故障时缓存损失仅 4%,而 4 块独立缓存盘的传统方案可能损失 25% 的缓存容量。

原文 · IT之家

群联展示内置 NPU 与 64GB 内存的智能固态硬盘,可直接运行 AI 模型

IT之家 11 月 22 日消息,据科技媒体 Tom's Hardware 昨天报道,群联在 SC26 大会中展示两款企业级固态硬盘,专为 AI 场景设计。其中一款甚至带有 NPU 和 64GB 内存,可以直接运行 AI 模型。 IT之家从原报道获悉, 其中一款产品 SSD 内置 NPU(神经网络引擎) 、 64GB 内存 ,带宽达到 130GB/s,支持直接在硬盘上运行 PyTorch、vLLM、OpenVINO 和 llama.cpp 等 AI 框架及推理工具。 该产品的设计思路是将部分计算任务从服务器转移至 SSD,让设备直接处理存储的数据,仅向主机返回结果,无需完整传输数据集。 群联表示,该方案在特定工作负载下有望将数据传输量减少 10 至 100 倍,从而降低主机 CPU 的负载。 另一款产品采用全新的 Mixed Media 混合介质设计,将高耐久性的 pSLC 缓存与大容量 QLC 闪存整合在同一块 SSD 中,并通过一颗 16 通道主控进行管理。 该方案将部分 QLC 闪存切换至 SLC 工作模式,以牺牲部分存储容量为代价,提升写入性能和耐久性。两个存储区域分别分配独立命名空间,主机可以根据数据类型选择对应的存储区域,无需额外安装专用软件。 群联称这种方案能够减少独立缓存盘的依赖。在包含 24 块 SSD 的系统中,如果其中一块硬盘发生故障,缓存损失比例仅为 4%,而采用 4 块独立缓存盘的传统方案可能损失 25% 的缓存容量。

产业坐标与信源核验

本条情报归属 AITOP「产品」核心栏目,重点聚焦中国 AI 产业与国产大模型生态。在跨区域产业观察坐标中,该动态直接关联「AI 开发者工具链、Coding Agent 与工程化实践」研究主线,反映出当前技术演进与商业落地的最新风向。涉及核心实体与技术议题包括:群联、NPU、SSD、vLLM,读者可通过下方标签进入对应专题页查阅历史脉络与关联对比。

信源核验说明:本文原始线索采编自「IT之家」,经 AITOP 多维评分管线结构化提炼。