服务器的配置是
Intel Xeon Processor (Skylake, IBRS) * 1
1个物理CPU,4个物理核心,8个逻辑核心
内存:16G LLM 是 API 对接的 不在这个服务器,然后向量数据库是用的本机的,自带的那个
服务器的配置是
Intel Xeon Processor (Skylake, IBRS) * 1
1个物理CPU,4个物理核心,8个逻辑核心
内存:16G LLM 是 API 对接的 不在这个服务器,然后向量数据库是用的本机的,自带的那个
MaxKB 本身支持的并发可以参考这个帖子,不过通常上限取决于模型本身支持多少并发。