04:19官方账号NVIDIA AI@NVIDIAAI精选NVIDIA AI官方转发了一份来自MiaAI_lab的DGX Spark本地模型运行指南。1台DGX Spark可跑DeepSeek v4 Flash(1M上下文,26 tok/s)或Qwen 3.6 35b NVFP4(256k上下文,81 tok/s)。2台DGX Spark是性价比甜点,DeepSeek v4 Flash速度提升到82 tok/s,还能跑Inkling-Small等全模态模型。3台以上可跑GLM-5.2 with Vision,348k上下文、25 tok/s,被称为本地最强智能。指南还给出了4台时的多卡分工方案,比如2台跑DeepSeek v4 Flash,另外2台跑图像模型和ComfyUI。技巧DGX SparkDeepSeek v4 FlashGLM-5.28 个信源在谈事件专题推荐理由:本地跑大模型?这份DGX Spark指南从1台到4台,告诉你选哪款模型、速度多少。原文稍后读已读值得跟进有用关注 DGX Spark
01:38andrew chen@andrewchen精选MiaAI实验室用Hermes agent根据一条X帖子,在一夜之间自动完成了DeepSeek v4 Flash GA (0731)在2块NVIDIA DGX Sparks上的部署。部署使用官方FP8权重,单流推理速度达82 tok/s,峰值约95 tok/s,三会话并发时达到135 tok/s。该方案已发布在GitHub上,并感谢了0xSero提交的PR,后续还会改进部署配方。AI模型DeepSeek v4 FlashHermesNVIDIA DGX Sparks10 个信源在谈事件专题推荐理由:Hermes agent看了条帖子就自动部署好DeepSeek v4 Flash,双DGX Sparks跑出82 tok/s,省人力还快。原文稍后读已读值得跟进有用关注 DeepSeek v4 Flash