19:58
Julien Chaumond@julien_c
Julien Chaumond@julien_c精选
推荐理由：Apple 用户加载模型更快
safetensors
共 1 条相关 AI 资讯
6月9日
19:58
safetensors v0.8.0 在 Apple Silicon 上支持将张量直接加载到 Metal 的 MTLBuffer 中。通过 DLPack 协议，可无缝传递给 PyTorch 等框架。相比之前版本，跳过了不必要的内存拷贝，提升了推理效率。该更新适用于所有使用 safetensors 的 Apple Silicon 用户。