连接本地部署的ollama千问模型,运行出错




看网上教程说要环境变量中设置OLLAMA_MODELS的值,但我不需要改变模型的默认位置,应该就不需要设置这个变量,只设置了OLLAMA_HOST,浏览器也可以用外部IP:11434得到Ollama is running,但新建应用后,运行还是出错,不知道问题出在哪儿?

你可以在docker 里试一下
curl thnas.e-123.cn:1016
看看有返回值。如果没有,说明访问不了这个网址。

没有下载向量模型

我也遇到了,在‘系统设置’-“模型设置”里,ollama下面只能找到qwen,没有qwen2.

基础模型可以手动输入,下拉列表列不全,你可以输入qwen2:7b 然后回车。

你的API Key从哪里来的

没有key的 可以输入任意 字符串