MaxKB如何本地加载大模型

MaxKB
1

MaxKB有自带的大模型算法吗？如果有，怎么加载？

2

自带了向量模型，在【模型管理】中可以查看，本地模型对接教程可以参考官网。

3

我加载本地向量模型时，出现如下错误信息：“ We couldn’t connect to ‘https://huggingface.co’ to load this file, couldn’t find it in the cached files and it looks like shibing624/text2vec-base-chinese is not the path to a directory containing a file named config.json. Checkout your internet connection or see how to run the library in offline mode at ‘https://huggingface.co/docs/transformers/installation#offline-mode’.” 本地向量模型还需要去互联网加载吗？

4

首先得确定你是否已经下载了模型在本地，其次你的本地模型路径是否配置正确了，如果这两个条件没有做到，就会识别不到本地模型，而去下载模型。