Qualcomm 联手 Cirrascale 开放 Dragonfly AI200 推理加速器客户评估
高通携手 Cirrascale,启动自家推理加速器 AI200 客户评估
高通第一款机架级推理卡开始让客户上手测了,单卡 768GB 内存、一机架 43TB,能直接跑 10T 级模型,主打省总持有成本。做私有云部署或想避开 NVIDIA 生态的企业可以关注评估渠道。
Qualcomm 于 11 月 17 日宣布,携手 AI 私有云企业 Cirrascale 向部分客户开放 Dragonfly AI200 推理加速器的评估,客户可在云环境中测试自己的 AI 工作负载在该芯片上的实际表现。Dragonfly AI200 是高通第一款机架级 AI 推理方案,单卡配备 768GB LPDDR5X 内存,支持 PCIe Gen6 纵向扩展与 RoCE 横向扩展。
具体到部署形态,每个 140kW 液冷 ORv3 机架由 56 卡组成,总内存达 43TB,提供 0.414 PB/s 内存带宽,可在单一机架内运行 10T 级超大模型的推理,主打更低的总持有成本。这一路线与 NVIDIA 主打 GPU 算力的方案不同,高通选择以超大内存容量和带宽切入超大参数模型推理场景。对正在评估私有云推理部署的企业来说,多了一个非 NVIDIA 生态的候选硬件选项。
高通携手 Cirrascale,启动自家推理加速器 AI200 客户评估
IT之家 11 月 20 日消息,Qualcomm(高通)当地时间本月 17 日宣布,其携手 AI 私有云企业 Cirrascale, 向部分客户开放 Dragonfly(飞龙)AI200 推理加速器的评估 。客户可通过云环境探索其 AI 工作负载在该芯片上的表现。 Dragonfly AI200 是高通的第一款机架级人工智能解决方案,单卡配备 768GB LPDDR5X 内存,支持 PCIe Gen6 纵向扩展、RoCE 横向扩展。 其每个 140kW 液冷 ORv3 机架由 56 卡组成,总内存达 43TB,提供 0.414 PB/s 内存带宽,可在单一机架中运行 10T 级超大模型的推理,提供更低的总持有成本。
本条情报归属 AITOP「产品」核心栏目,重点聚焦北美前沿实验室与硅谷科技巨头。在跨区域产业观察坐标中,该动态直接关联「AI 开发者工具链、Coding Agent 与工程化实践」研究主线,反映出当前技术演进与商业落地的最新风向。涉及核心实体与技术议题包括:Qualcomm、Cirrascale、Dragonfly AI200、AI推理,读者可通过下方标签进入对应专题页查阅历史脉络与关联对比。
信源核验说明:本文原始线索采编自「IT之家」,经 AITOP 多维评分管线结构化提炼。