怎么添加本地向量模型

MaxKB
, ,
1

我想把向量模型换成GTE，从魔搭社区下载的GTE文本向量-中文-通用领域-large( GTE文本向量-中文-通用领域-large · 模型库)。
我跟着网上的教程配置了yml文件，volumes:下面新增了：

${MAXKB BASE}/maxkb/model:/home/xxx//disk2/LLMModel/GTEVectorModel/GTE

冒号后面是存放模型的本地路径。
但是在导入模型的时候报错：

校验失败,请检查参数是否正确:Unrecognized model in /home/xxx/disk2/LLMModel/GTEVectorModel/GTE. Should have a `model type’ key in its config.json,'homeor contain one of the following strings in its name:

请问我该怎么正确进行配置。由于模型较多，需要专门挂载到disk2下面的路径下。

2

请先查看一下对应的教程：MaxKB 如何对接本地向量模型 - FIT2CLOUD 知识库

感觉是路径不对或者文件缺失

3

这个教程我看了，我是把下面的mk-model-data的路径直接放到了volumes中（当然教程中的方式我也试了，也不行），我的理解是冒号前是maxkb里的路径，冒号后是本机的地址（我没有把本地模型放到/opt/maxkb/model中，请问这是必须的吗），同时也检查了GTE文件夹中包含了那几个json文件和vocab.txt。

4

我又研究了一下，意思是需要把本地模型拷贝到maxkb容器内部的/opt/maxkb/model下吗（原谅我docker真的用的不熟），我按照教程挂载了之后，在容器内的model文件夹下面没有看到相关的模型文件

5

有没有修改docker-compose文件，添加volume挂载点？

6

配置了，${MAXKB BASE}/maxkb/model:/home/xxx//disk2/LLMModel/GTEVectorModel/GTE，我是这样写的。不知道写对没有

7

没有写对，容器内目录要写/opt/maxkb/model目录下，模型管理 - MaxKB 文档

8

解决了，多谢