事件专题 ·多源确认

llama.cpp 与 ggml 发布 1.0.0 版本,支持超 150 种模型架构

11 月 13 日,llama.cpp 与底层引擎 ggml 的创建者 Georgi Gerganov 宣布两个开源项目库版本正式迈入 1.0.0。llama.cpp 用 C/C++ 编写,作用是让大语言模型在个人电脑、服务器等本地硬件上运行,目前已支持超过 150 种模型架构变体及主流推测解码方法。 本次更新的核心是明确版本规则:公共 C API 出现破坏性变更时主版本号升级(如 1.x.x → 2.0.0),向后兼容的功能或模型支持走 MINOR,纯 bug 修复走 PATCH,依赖这两个库的应用可以从版本号判断升级是否需要同步改代码。 工程质量方面,团队借助 Hugging Face 的 HF Buckets 与 HF Jobs 扩展 CI 基础设施,并在 NVIDIA、AMD、Qualcomm、Arm、IBM、Intel 提供的硬件上增加自托管测试运行器,扩大跨平台测试覆盖。ggml 的各硬件后端可编译为动态库,在运行时按需加载。

当前结论

在本地电脑上跑大模型这个项目终于到 1.0.0 了,现在支持 150 多种模型架构,六大芯片厂商的硬件都有测试覆盖。做本地部署或依赖这个库开发的工程师,可以关注它新定的版本规则,升级前更好判断要不要改自己的代码。

11 个信源66° AI 热度最后更新 2026/11/14 00:14:06

证据链

11 个信源
相关来源 1Hugging Face: Blog
查看原文
相关来源 2Julien Chaumond
查看原文
相关来源 4Clement Delangue
查看原文
相关来源 8LMSYS Org (SGLang)
查看原文

冲突核查

现有去重数据只说明这些来源讨论同一事件,不代表立场相同。当前没有结构化的支持或反驳证据,不自动推断冲突。