Intel 推出 GPU D-series,单卡最大 480GB 内存用于 LLM 推理
Intel 出了张纯推理卡 D270,单卡塞 480GB 内存能跑 300B 模型,图形部分直接砍掉,专攻 LLM 部署。
Intel 出了张纯推理卡 D270,单卡塞 480GB 内存能跑 300B 模型,图形部分直接砍掉,专攻 LLM 部署。
英特尔新推出的Crescent Island加速卡,专为AI推理设计,内存高达480GB,是处理AI工作负载的理想选择,比同类产品内存容量更高。
做AI推理部署的团队终于有了英特尔的高内存选项——480GB LPDDR5x和350W功耗设计,适合需要大模型推理但不想堆多卡的场景,值得关注。
数据中心AI推理市场迎来新玩家,做AI部署和服务器优化的团队值得关注——160GB LPDDR5X内存和Xe3P架构的配置,可能改变推理成本格局。