llama.cpp与ggml发布1.0.0 推理库明确接口不兼容规则
开发者Georgi Gerganov于11月13日在X平台宣布,开源AI推理项目llama.cpp与底层机器学习引擎ggml的库版本升级至1.0.0,并明确了接口兼容性规则。
按官方公布的版本规则,MAJOR位(如1.x.x→2.0.0)对应/include中公共C API的破坏性变更,API/ABI不兼容将通过主版本号升级体现;MINOR位(如1.0.x→1.1.0)用于向后兼容的功能、后端更新、模型支持或API新增;PATCH位(如1.0.0→1.0.1)为不改变API的错误修复。依赖这两个库的应用可据此判断某次升级是否需要同步修改。
llama.cpp主要用C/C++编写,目标是让大语言模型在个人电脑、服务器等硬件上运行,既可用于本地部署,也可用于云端服务。ggml通过专用后端支持不同硬件,每个后端可编译为动态库并在运行时按需加载。
官方公告称,llama.cpp已支持超过150种模型架构变体及主流推测解码方法,团队还将继续加强自动化测试基础设施,并借助英伟达、AMD、高通、Arm、IBM和英特尔提供的硬件支持,扩大跨平台测试覆盖。
Gerganov是llama.cpp的创建者,也是ggml、whisper.cpp等本地AI基础软件的重要开发者,其在X简介中标注为Hugging Face工程师。
- 2026-11-14 08:41 | 新浪:断网也能跑满血大模型?本地AI界最火的“基石神器”终于发布1.0正式版阅读原文
(来源:IT之家) IT之家 11 月 14 日消息,开发者 Georgi Gerganov(X 账号为 @ggerganov)昨日(11 月 13 日)在 X 平台发布推文,宣布开源 AI 推理项目 llama.cpp 与底层机器学习引擎 ggml 的库版本迈入 1.0.0。 IT之家查询公开资料,Gerganov 是开源项目 llama.cpp 的创建者,也是 ggml、whisper.cpp 等本地 AI 基础软件的重要开发者。他在个人 X 简介中将自己标注为 Hugging Face 工程师,GitHub 资料所在地为保加利亚索非亚。 llama.cpp 是一个主要用 C/C++...
- 2026-11-14 08:14 | IT之家:本地推理引擎 llama.cpp 1.0.0 史诗级更新:支持超 150 种模型架构,断网也能满血跑大模型阅读原文
IT之家 11 月 14 日消息,开发者 Georgi Gerganov(X 账号为 @ggerganov)昨日(11 月 13 日)在 X 平台发布推文,宣布开源 AI 推理项目 llama.cpp 与底层机器学习引擎 ggml 的库版本迈入 1.0.0。IT之家查询公开资料,Gerganov 是开源项目 llama.cpp 的创建者,也是 ggml、whisper.cpp 等本地 AI 基础软件的重要开发者。他在个人 X 简介中将自己标注为 Hugging Face 工程师,GitHub 资料所在地为保加利亚索非亚。llama.cpp 是一个主要用 C/C++ 编写的开源 AI 推理项目,...