vllm添加向量模型报错

MaxKB
1

image
image909×811 49.4 KB

vllm添加向量模型报错 添加语言模型正常 容器内可以curl通
image
image1514×569 41.7 KB

2

“out of vocabulary”指的是模型在处理文本数据过程中，会遇到一些没有在词汇库中出现过的词汇，使得模型不能理解该新词。
https://zhuanlan.zhihu.com/p/690652980

3

所以是模型问题吗？

4

是的，所有模型遇到词汇库中不存在的新词汇时，都可能出现这个错误。