科技快讯 · 科技快讯-K

OVHcloud推出首款自研Agent模型Olala mini,7B模型可在8GB显存上运行

来源:OVHcloud官方,11月17日 标签:

TECHSIR NEWS FLASH

欧洲云服务商OVHcloud发布首个自研大模型系列Olala,首款Olala mini采用7B参数、1B激活参数的MoE架构,并结合Differential-TPA与Mamba-3混合注意力。公司称模型可在8GB显存GPU上运行,在RTX A4500上达到每秒160 Token,并采用Apache 2.0协议开放权重。法国搜索引擎Qwant已用于搜索问答。

评论交流