Transformers支持llama.cpp量化模型

Hugging Face Transformers库现已支持llama.cpp量化模型。该集成允许用户在CPU上高效运行大型语言模型。通过量化技术，模型内存占用显著降低，推理速度提升。这一功能扩展了Transformers库的本地部署能力。