DSpark是一种大型语言模型优化技术，旨在提升模型在资源受限设备上的推理速度和效率。近期，Liquid AI和Unsloth分别推出了基于DSpark的模型实现，显著提升了模型在本地设备上的运行性能。
DSpark 近期进展
当前焦点与观察点
DSpark技术正成为AI模型优化领域的新焦点，其通过并行投机解码方法显著提升了模型推理效率。然而，DeepSeek V4-Flash单GPU吞吐量对比显示，72 TPS的吞吐量仅为理论值的三分之一，表明实际应用中仍存在性能差距。DeepSeek V4-Flash 单 GPU 吞吐量对比引争议：72 TPS 仅为其三分之一模型优化研究正在从云端向本地设备转移，DSpark等技术的出现使得大模型在消费级硬件上的运行成为可能。未来，随着算法优化和硬件发展，本地AI模型的性能和效率有望进一步提升。