本地私有化部署的模型加载失败


ollama无法拉取模型,检查一下网络是否正常,如果是内网的话可以下载模型文件到ollama里面,然后再maxkb里面添加对应的模型名称就可以了

内网环境下,模型和maxkb应用未部署在同一台服务器上可以添加模型吗,我在maxkb的容器中测试是可以访问模型的,但是添加模型会报拉取模型失败。

在 Ollama 容器中执行 Ollama list 确认一下 离线模型创建成功。再到 MaxKB 中添加模型对接。

如何使用 Ollama 离线部署模型 参考下方帖子:

api域名地址后面加个v1试试

时隔一年,这个问题仍在v1.10.8-lts版中出现,而且在代码中无法定位问题所在。

根据贴主的问题截图来看,这个问题是Ollama在拉取模型镜像的时候超时了,这其实跟MaxKB本身没有什么关系,要解决网络问题。