【教程】Windows系统本地部署Ollama+MaxKB安装教程

MaxKB
,
1

1.在本地先安装Ollama（有点简单，就不列出步骤了）。

2. Windows11以下系统需要进行更新。

Win10必更新到版本号：22H2，操作系统内部版本：19045.4412及以上版本。
▲注意：设置好后重启电脑

3.系统设置→应用和功能→启用或关闭Windows功能，设置（打勾）：“Hyper-V”,“Windows 虚拟机监护程序平台”，“适用于 Linux 的 Windows 子系统”，“虚拟机平台”。

▲注意：设置好后重启电脑

4. 确定是Win10(版本号：22H2，操作系统内部版本：19045.4412及以上版本）（如是Win11，就这里就可以忽略了）后：（▲设置好后重启电脑）

5.Windows PowerShell命令行窗口在Windows系统开始那里

  • 5.1. 先安装WSL（管理员运行Windows PowerShell：wsl --update）

  • 5.2. 安装Ubuntu（管理员运行Windows PowerShell：wsl --install -d Ubuntu），运行后要设置帐号密码，注：输入密码时，密码不会显示在命令行窗口，不要惊慌，实际已设置好了。

  • 5.3. 官网下载安装Docker后注册帐号（需科学上网），在Docker软件设置里，找到“Resource”项→"WSL integration"项，将“Enable integration with my default wSL distro”打勾，将“Ubuntu”打开。后连接Docker（管理员运行Windows PowerShell：docker login）

  • 5.4. Docker是国外的软件，日常使用需加速，不加速就得科学上网（但这样不切实际），所以在Docker设置里，找到“Docker Engine”，设置Docker镜像加速代码：
    注意：一个逗号都不能少，直接复制这个就可以了。
    {
    “builder”: {
    “gc”: {
    “defaultKeepStorage”: “20GB”,
    “enabled”: true
    }
    },
    “experimental”: false,
    “registry-mirrors”: [
    “https://dockerproxy.com”,
    “https://docker.mirrors.ustc.edu.cn”,
    “https://docker.nju.edu.cn”
    ]

  • 5.5. 安装MaxKB镜像（点击Ubuntu图标后出现命令行窗口，后输入命令行：docker run -d --name=maxkb -p 8080:8080 -v ~/.maxkb:/var/lib/postgresql/data 1panel/maxkb

  • 5.6. 安装好maxKB镜像后登录MaxKB界面，在浏览器输入地址：（本机IP）:8080，用户名: admin，密码:MaxKB@123…（后要自行修改密码），进入MaxKB界面选模型。

  • 5.7. 在浏览器输入地址：http://localhost:11434→出现信息：Ollama is running（可见Ollama已在本地运行）

  • 5.8. 关于maxKBya内API域名设置问题：（▲注意：设置好后重启Ollama）
    （以下二选一）

      1.必须设置系统 Windows 用户环境变量：
  变量名：OLLAMA_HOST
  变量值：:8000
  API域名：（本机IP）:8000
  
  2.必须设置系统 Windows 用户环境变量：
  变量名：OLLAMA_HOST
  变量值：0.0.0.0
  API域名：http://host.docker.internal:11434

6. 至此，所谓的部署已完毕。

1 个赞
2
3
4

docker hub被墙，翻墙也安装不了了吗？stderr: maxkb Pulling 8a1e25ce7c4f Pulling fs layer b2be002daccf Pulling fs layer 71dff0956c31 Pulling fs layer 962627501404 Pulling fs layer c23077a7a05a Pulling fs layer 40632b8e7084 Pulling fs layer cfbec5f1dac7 Pulling fs layer d1743de7c97b Pulling fs layer c9cde040a07c Pulling fs layer 3a23a8d46005 Pulling fs layer f499f39f0f2d Pulling fs layer 2cf0f5381fa5 Pulling fs layer 89f512733a11 Pulling fs layer 45deb7326cc7 Pulling fs layer 4da1588ee668 Pulling fs layer f921e807b05e Pulling fs layer fb48e6ed8c8a Pulling fs layer 837ad4f67afe Pulling fs layer d2226fd51066 Pulling fs layer fa8f2215ceac Pulling fs layer f499f39f0f2d Waiting 962627501404 Waiting c23077a7a05a Waiting 2cf0f5381fa5 Waiting 89f512733a11 Waiting 45deb7326cc7 Waiting 4da1588ee668 Waiting 40632b8e7084 Waiting f921e807b05e Waiting cfbec5f1dac7 Waiting fb48e6ed8c8a Waiting d1743de7c97b Waiting c9cde040a07c Waiting 837ad4f67afe Waiting d2226fd51066 Waiting fa8f2215ceac Waiting 3a23a8d46005 Waiting 8a1e25ce7c4f Retrying in 5 seconds b2be002daccf Retrying in 5 seconds 71dff0956c31 Retrying in 5 seconds 8a1e25ce7c4f Retrying in 4 seconds b2be002daccf Retrying in 4 seconds 71dff0956c31 Retrying in 4 seconds 8a1e25ce7c4f Retrying in 3 seconds b2be002daccf Retrying in 3 seconds 71dff0956c31 Retrying in 3 seconds 8a1e25ce7c4f Retrying in 2 seconds b2be002daccf Retrying in 2 seconds 71dff0956c31 Retrying in 2 seconds 8a1e25ce7c4f Retrying in 1 second b2be002daccf Retrying in 1 second 71dff0956c31 Retrying in 1 second 71dff0956c31 Retrying in 10 seconds b2be002daccf Retrying in 10 seconds 8a1e25ce7c4f Retrying in 10 seconds 71dff0956c31 Retrying in 9 seconds b2be002daccf Retrying in 9 seconds 8a1e25ce7c4f Retrying in 9 seconds 71dff0956c31 Retrying in 8 seconds b2be002daccf Retrying in 8 seconds 8a1e25ce7c4f Retrying in 8 seconds 71dff0956c31 Retrying in 7 seconds b2be002daccf Retrying in 7 seconds 8a1e25ce7c4f Retrying in 7 seconds 71dff0956c31 Retrying in 6 seconds b2be002daccf Retrying in 6 seconds 8a1e25ce7c4f Retrying in 6 seconds 71dff0956c31 Retrying in 5 seconds b2be002daccf Retrying in 5 seconds 8a1e25ce7c4f Retrying in 5 seconds 71dff0956c31 Retrying in 4 seconds b2be002daccf Retrying in 4 seconds 8a1e25ce7c4f Retrying in 4 seconds 71dff0956c31 Retrying in 3 seconds b2be002daccf Retrying in 3 seconds 8a1e25ce7c4f Retrying in 3 seconds 71dff0956c31 Retrying in 2 seconds b2be002daccf Retrying in 2 seconds 8a1e25ce7c4f Retrying in 2 seconds 71dff0956c31 Retrying in 1 second b2be002daccf Retrying in 1 second 8a1e25ce7c4f Retrying in 1 second error pulling image configuration: download failed after attempts=6: dial tcp 69.171.229.73:443: connect: connection refused

5

这样安装的maxkb 如果重启数据会丢失吧。我的就这样了。我是从docker desktop中的image 挂接到本地目录，启动的。就没什么问题了

6

目前安装docker出了很多的报错，如deploying WSL2 distributions这样的错误。想问一下，有没有不用docker部署到本地windows电脑系统的其他方法，感谢。

1 个赞
7

那是wsl的问题。

wsl --set-default-version 2
wsl --update --web-download

这个两个命令走完。最后一个命令 是显示进度，跟网络有关系。 然后再重新输入命令就可以了。

8

如何挂载呢 我一直操作失误,能具体教下怎么操作吗?

9

把 /var/lib/postgresql/data 挂载到本windows具体目录就行

10