华硕推出首款 Intel Arc Pro B70 显卡:32GB ECC 显存,INT8 算力 367 TOPS
华硕时隔多年又做 Intel 独显了,这张 32GB ECC 显存的卡跑本地大模型很实用,还能 4 卡堆到 128GB 显存。
IT之家原文
华硕时隔多年又做 Intel 独显了,这张 32GB ECC 显存的卡跑本地大模型很实用,还能 4 卡堆到 128GB 显存。
有 Intel Arc Pro B70 的朋友可以试试这个开源工具,现在能直接用 vLLM 跑本地模型了,不用折腾命令行。
单槽设计让工作站能塞进8块GPU,256GB显存直接跑2000亿参数大模型,做本地AI推理或内容创作的团队值得关注,空间和预算都能省不少。