目前支持的供应商类型是这些,如果GPUStack接口符合OpenAI格式,可以使用OpenAI供应商进行对接。
使用OpenAI兼容格式添加模型,添加大语言模型成功了,但是添加向量模型的时候还是有问题
这个后面解决了吗?
论坛里有处理这个问题的帖子,可以参考一下。