M 贤紫精选模型市场
返回模型市场

MiniCPM-V 4.7 35B-A3B(GGUF Q4_K_M · 视觉)

视觉多模态 · MiniCPM-V 4.7 · Q4_K_M

OpenBMB MiniCPM-V 视觉 VL MoE GGUF Q4 看图 OCR 魔搭

模型概要

MiniCPM-V 4.7 35B-A3B 是 OpenBMB(面壁)发布的 视觉语言(VLM)MoE 模型:总参约 35B,激活约 3B,支持 单图、多图、文档与视频 等理解。本条目为官方 GGUF Q4_K_M 主权重。

⚠️ 必须同时部署视觉投影文件 mmproj-model-f16.gguf(本页「第二下载」),否则只能当纯文本,无法看图。

文件清单

文件约大小说明
MiniCPM-V-4_7-35B-A3B-Q4_K_M.gguf21.2 GB语言 / MoE 主模型
mmproj-model-f16.gguf1.12 GB视觉投影(必下)

能力亮点

  • 多模态:识图、文档 OCR、图表/界面理解等(具体效果取决于底座与 prompt)。
  • 4.7 系列 MoE + 高效视觉编码,面向 本地 / llama.cpp / Ollama 等部署。
  • 协议:Apache-2.0(商业使用请以官方 LICENSE 为准)。

部署提示(llama.cpp 思路)

  1. 下载 主 GGUF + mmproj,放在同一模型目录。
  2. 使用 较新版本 llama.cpp(需支持 MiniCPM-V 4.7 的 mmproj / M-RoPE 元数据,见 OpenBMB Cookbook)。
  3. 示例(路径自改):
   llama-mtmd-cli -m MiniCPM-V-4_7-35B-A3B-Q4_K_M.gguf \
     --mmproj mmproj-model-f16.gguf \
     --image your.jpg -p "描述这张图片"