这个需要魔法的, 或者设置 docker 镜像, 否则慢的很
下载好了这个,还要下载里面的模型,动不动7–8G, 本地跑个 qwen:13b 的那个模型,需要 14G 左右, 没有魔法,感觉很难折腾, 不过好像模型的下载要快一些吧. 我前段时间拉取一个 github 仓库里面的10M 的镜像, 慢的很
经过我的不断尝试, docker 镜像 自己去弄一个淘宝的,稳定很多.
对于其他仓库的. 网上流行一些, 但是我自己测试还是慢的要死, 最终我选择了南大的这个镜像,加上阿里的
1 个赞