现在都是CPU在向量化,效率极低速度很慢,如何让GPU介入并批量向量化?
确实是cpu 向量化慢,我考虑是否是自己cpu 配置不行
MaxKB自带的向量模型在容器里,没有GPU资源,如果你们有GPU资源,可以自行部署向量模型然后对接到MaxKB使用。
现在都是CPU在向量化,效率极低速度很慢,如何让GPU介入并批量向量化?
确实是cpu 向量化慢,我考虑是否是自己cpu 配置不行
MaxKB自带的向量模型在容器里,没有GPU资源,如果你们有GPU资源,可以自行部署向量模型然后对接到MaxKB使用。