请问我本地搭建的VLLM 运行的Qwen2.5模型添加失败
您本地搭建的模型名字跟这个完全一致么?需要完全一致的,如果下拉列表没有一致的,可以手动输入模型名字。
在哪里看本地搭建的模型名字呢?
可以curl vllm服务的/v1/models接口获取模型列表。