MaxKB的OpenAI无法加载本地私有化部署的ASR模型

[user-bu60rhtaxxa]

[yanlinglai]

模型路径不对，截图看看你的详细配置

[user-bu60rhtaxxa]

那可能是路径问题，我的模型文件在另外一个服务器上，路径这块要怎么写

[yanlinglai]

[user-bu60rhtaxxa]

我就是这么写的，但是还是会报那个错误

[yanlinglai]

没有看到/v1 呀

[user-bu60rhtaxxa]

我是自己本地私有化部署的onerahmet/openai-whisper-asr-webservice

[user-bu60rhtaxxa]

我是自己私有化部署的，他的Api文档就是 /asr的

[yanlinglai]

那你进入容器里面curl 一下你这个路径，看下有模型返回吗

[user-bu60rhtaxxa]

在MaxKb容器里面 curl用Post请求我那个路径是有返回的

[yanlinglai]

能返回对应的模型列表吗？像这样子

[user-bu60rhtaxxa]

因为我只是默认不传参去测试，反正能请求到

[yanlinglai]

你这看不到是否有模型列表呀

[回眸一笑]

兄弟，加个联系方式聊聊，我也在搞私有化部署

[user-bu60rhtaxxa]

我这个是直接调用接口的API

[user-bu60rhtaxxa]

你是私有化部署哪块的

[user-bu60rhtaxxa]

提供的链接一定是要能返回模型列表的？不能是接口调用?

[yanlinglai]

你可以在函数库里面写函数回调一下模型接口，看下有没有问题

[user-bu60rhtaxxa]

你这边有配置过私有化部署的asr吗？能否借鉴一下