什么时候才能出一个用显卡来运算的版本啊,迫切需求。
麻烦再详细描述一下具体使用场景。
现在用win11系统安装wsl子系统后,添加maxkb后我添加7B模型,但是运行起来非常慢,只有CPU和内存在使用,2张英伟达的4090显卡完全没有被调动,能不能设置一个按钮可以调用显卡来运算模型呢?
什么时候才能出一个用显卡来运算的版本啊,迫切需求。
麻烦再详细描述一下具体使用场景。
现在用win11系统安装wsl子系统后,添加maxkb后我添加7B模型,但是运行起来非常慢,只有CPU和内存在使用,2张英伟达的4090显卡完全没有被调动,能不能设置一个按钮可以调用显卡来运算模型呢?