Forum

本地多模态 / Vision-Lang...
 
Notifications
Clear all

本地多模态 / Vision-Language 模型能干什么?显存要多少?

1 帖子
1 Users
0 Reactions
12 查看
(@pandaadmin)
会员 Admin
已加入: 6 天 前
帖子: 161
Topic starter   [#52]

【官方常见问题精选】欢迎补充和追问。

VL 模型可以看图回答、读截图、简单理解表格或 UI。本地部署时,除了语言模型权重,还有视觉编码器,显存与依赖通常比纯文本更重。

注意:

  • 不是所有前端都支持传图;需确认 Ollama/llama.cpp/vLLM 等对你选的 VL 架构的支持情况。
  • 分辨率、图片数量会显著影响显存与速度;先从单张、缩小图试起。
  • 对文字密集截图、复杂图表,仍可能幻觉,关键信息请人工核对。

显存需求随模型而异,无法给出统一数字;请以官方说明与本地试跑为准。欢迎分享可跑通的组合。



   
引用
Share: