Forum

模型加载失败或者报错,一般怎么排查?
 
Notifications
Clear all

模型加载失败或者报错,一般怎么排查?

0 帖子
1 Users
0 Reactions
13 查看
0
[#4]
Topic starter

【官方常见问题精选】欢迎在下方补充你的经验或追问。

模型“加载失败”的原因很多,可以按下面的顺序排查:

  • 文件是否完整:下载中断会导致文件损坏。如果能拿到官方提供的 sha256 校验值,对比一下;或者重新下载。
  • 软件版本是否太旧:新模型架构需要新版本的 llama.cpp / Ollama / LM Studio 支持。遇到类似 “unknown model architecture” 的报错,先升级软件。
  • 内存或显存是否不足:模型体积加上上下文缓存超过可用内存,会直接失败或被系统杀掉进程。试试更小的量化版本,或者调低上下文长度。
  • 分片文件:有些大模型的 GGUF 被拆成多个文件(名字类似 xxx-00001-of-00003.gguf)。需要把所有分片放在同一个目录,并指定第一个分片加载。
  • 格式不匹配:把 safetensors 文件直接交给只认 GGUF 的工具会失败。需要下载 GGUF 版本,或者先转换。
  • 路径与权限:路径里有特殊字符、磁盘空间不足、权限不够,也会出问题。

查看日志是最有效的方法:

  • Linux(systemd 安装的 Ollama):journalctl -u ollama
  • macOS:~/.ollama/logs/server.log
  • Windows:%LOCALAPPDATA%Ollamaserver.log

求助时请附上:使用的软件及版本、模型文件名、系统与显卡信息、完整的报错日志,这样大家更容易帮你定位问题。


Share: