微软升级 Windows ML：实验性原生支持 GGUF 与 ONNX 本地推理

微软在 Windows 与 Surface 十月活动中介绍 Windows ML 的最新进展，通过与 llama.cpp 和 GGUF 开源社区合作，实验性支持从 Hugging Face 导入 GGUF 模型并直接在 Windows 11 设备端运行。新推出的 Windows ML Runtime API 可运行 ONNX 与 GGUF 两类模型，微软称其具备更高性能和更深的系统集成。微软还携手英伟达向 llama.cpp 贡献性能优化代码，并同步推出 Text Generation API 与 Speech Recognition API 供开发者构建文本生成和语音识别功能。原有的 ONNX Runtime API 仍获完整支持，未来针对 Windows 的优化将优先投向 Windows ML Runtime API。