本地部署的deepseek服务器。发现调用deepseek的时候,服务器CPU始终只跑了50%(8核的话,只能跑4核) 我用其他工具(dify)调用deepseek节点的时候,有线程数的参数设定,如果设定为8的话,可以把8核服务器CPU全部跑满。 maxkb这边可以设定线程数吗
MaxKB只负责使用正确的模型参数调用对应的模型,如果DeepSeek有对应的线程参数,可以在模型管理中添加参数,如果模型本身没有,MaxKB无法为模型设定参数。