SambaNova 与 Oracle 合作,将 RDU 芯片接入 OCI 提供推理服务
SambaNova 的 RDU 推理芯片要进 Oracle 云了,跑大模型推理又多一个和英伟达 GPU 不一样的选择。
SambaNova 在 Oracle AI World 上宣布与 Oracle 合作,计划把 SambaNova 的 RDU 芯片引入 Oracle Cloud Infrastructure(OCI)。OCI 总裁 Mahesh Thiagarajan 表示,客户希望为不同 AI 工作负载匹配合适的基础设施,而推理需求正在快速增长。此次合作面向需要大规模运行模型的企业客户,提供高性能、高能效的推理选项。
LIVE from Oracle AI World!
SambaNova and @Oracle are collaborating to bring high-performance inference to Oracle Cloud Infrastructure (OCI).
“Our customers want the right infrastructure for every AI workload, and inference demand is growing fast. We plan to bring SambaNova’s RDU chips to OCI to give AI builders a high-performance, efficient way to run models at scale.” — @MThiagarajan_, President, OCI.
Full press release here: https://t.co/BEACDBXDwL