2026-11-18 00:20
最后更新于2026-11-21 16:56
AI123
OVHcloud发布70亿参数大模型,8GB显存可运行
欧洲云服务企业OVHcloud 11月17日宣布,推出首个AI模型家族Olala,并公布首个成员Olala mini 7A1B。该模型总参数70亿、激活参数10亿,采用Differential-TPA与Mamba-3结合的混合注意力机制,使用BF16数据格式。
Olala mini 7A1B将以Apache 2.0许可开源发布在Hugging Face,可在8GB显存的GPU上运行。OVHcloud称,其在RTX A4500上可实现160 TPS的词元吞吐量,仅CPU平台也能达到50 TPS。
该模型初始版本上下文长度为32K;预计2026年底推出的1.1版本将扩展至128K上下文,并提升数学能力。OVHcloud表示,模型在三台欧洲公共超级计算机上使用NVIDIA GH200、A100和H100训练,总开销700万欧元;后续Olala 2.0的参数规模将超过1000亿。
来源
- 2026-11-17 18:06 | IT之家:欧洲云服务企业 OVH 涉足 AI 模型,开源发布 Olala mini 7A1B阅读原文
IT之家 11 月 17 日消息,欧洲云服务企业 OVHcloud 当地时间今日宣布推出其首个 AI 模型家族 Olala,同时公布了该系列的首个成员 Olala mini 7A1B。Olala mini 7A1B 采用结合了 Differential-TPA 和 Mamba-3 的混合注意力机制,总参数 70 亿、激活参数 10 亿,使用 BF16 数据格式。该模型将以 Apache 2.0 许可开源发布在 Hugging Face 上。其可在 8GB 显存的 GPU 上运行,在 RTX A4500 上可实现 160 TPS 的词元吞吐量,仅 CPU 平台也能实现 50 TPS。OVH 表示...