跳到正文
原文
公众号:AI异类弗兰克· FrankGPT·· 4 小时前AI 评分75

面壁智能发布 MiniCPM-V 4.7:35B-A3B 约3G内存可端侧运行

端侧AI迎来无损时代:3G内存跑35B多模态

AI 导读

面壁智能推出端侧多模态大模型 MiniCPM-V 4.7,包含 35B-A3B 与 1B 两个版本,并开源模型权重、推理代码和微调代码。35B-A3B 采用35B总参数、3B激活参数的 MoE 架构,约3G内存即可在 iOS、安卓等系统流畅运行,支持256K上下文;官方实测在 iPhone 17 Pro Max 上达到13+ token/s。

来源:公众号:AI异类弗兰克 · mp.weixin.qq.com