MiniCPM-V 4.7 35B-A3B(GGUF Q4_K_M · 视觉)
视觉多模态 · MiniCPM-V 4.7 · Q4_K_M
模型文件由第三方社区提供,贤紫精选模型市场仅提供索引与下载便利;使用请遵守该模型开源协议。
模型概要
MiniCPM-V 4.7 35B-A3B 是 OpenBMB(面壁)发布的 视觉语言(VLM)MoE 模型:总参约 35B,激活约 3B,支持 单图、多图、文档与视频 等理解。本条目为官方 GGUF Q4_K_M 主权重。
⚠️ 必须同时部署视觉投影文件 mmproj-model-f16.gguf(本页「第二下载」),否则只能当纯文本,无法看图。
文件清单
| 文件 | 约大小 | 说明 |
|---|---|---|
MiniCPM-V-4_7-35B-A3B-Q4_K_M.gguf | 21.2 GB | 语言 / MoE 主模型 |
mmproj-model-f16.gguf | 1.12 GB | 视觉投影(必下) |
能力亮点
- 多模态:识图、文档 OCR、图表/界面理解等(具体效果取决于底座与 prompt)。
- 4.7 系列 MoE + 高效视觉编码,面向 本地 / llama.cpp / Ollama 等部署。
- 协议:Apache-2.0(商业使用请以官方 LICENSE 为准)。
部署提示(llama.cpp 思路)
- 下载 主 GGUF + mmproj,放在同一模型目录。
- 使用 较新版本 llama.cpp(需支持 MiniCPM-V 4.7 的 mmproj / M-RoPE 元数据,见 OpenBMB Cookbook)。
- 示例(路径自改):
llama-mtmd-cli -m MiniCPM-V-4_7-35B-A3B-Q4_K_M.gguf \
--mmproj mmproj-model-f16.gguf \
--image your.jpg -p "描述这张图片"