【教程】Windows系统本地部署Ollama+MaxKB安装教程

1.在本地先安装Ollama(有点简单,就不列出步骤了)。

2. Windows11以下系统需要进行更新。

Win10必更新到版本号:22H2,操作系统内部版本:19045.4412及以上版本。
▲注意:设置好后重启电脑

3.系统设置→应用和功能→启用或关闭Windows功能,设置(打勾):“Hyper-V”,“Windows 虚拟机监护程序平台”,“适用于 Linux 的 Windows 子系统”,“虚拟机平台”。

▲注意:设置好后重启电脑

4. 确定是Win10(版本号:22H2,操作系统内部版本:19045.4412及以上版本)(如是Win11,就这里就可以忽略了)后:(▲设置好后重启电脑)

5.Windows PowerShell命令行窗口在Windows系统开始那里

  • 5.1. 先安装WSL(管理员运行Windows PowerShell:wsl --update)

  • 5.2. 安装Ubuntu(管理员运行Windows PowerShell:wsl --install -d Ubuntu),运行后要设置帐号密码,注:输入密码时,密码不会显示在命令行窗口,不要惊慌,实际已设置好了。

  • 5.3. 官网下载安装Docker后注册帐号(需科学上网),在Docker软件设置里,找到“Resource”项→"WSL integration"项,将“Enable integration with my default wSL distro”打勾,将“Ubuntu”打开。后连接Docker(管理员运行Windows PowerShell:docker login)

  • 5.4. Docker是国外的软件,日常使用需加速,不加速就得科学上网(但这样不切实际),所以在Docker设置里,找到“Docker Engine”,设置Docker镜像加速代码:
    注意:一个逗号都不能少,直接复制这个就可以了。
    {
    “builder”: {
    “gc”: {
    “defaultKeepStorage”: “20GB”,
    “enabled”: true
    }
    },
    “experimental”: false,
    “registry-mirrors”: [
    https://dockerproxy.com”,
    https://docker.mirrors.ustc.edu.cn”,
    https://docker.nju.edu.cn
    ]

  • 5.5. 安装MaxKB镜像(点击Ubuntu图标后出现命令行窗口,后输入命令行:docker run -d --name=maxkb -p 8080:8080 -v ~/.maxkb:/var/lib/postgresql/data 1panel/maxkb

  • 5.6. 安装好maxKB镜像后登录MaxKB界面,在浏览器输入地址:(本机IP):8080,用户名: admin,密码:MaxKB@123…(后要自行修改密码),进入MaxKB界面选模型。

  • 5.7. 在浏览器输入地址:http://localhost:11434→出现信息:Ollama is running(可见Ollama已在本地运行)

  • 5.8. 关于maxKBya内API域名设置问题:(▲注意:设置好后重启Ollama)
    (以下二选一)

      1.必须设置系统 Windows 用户环境变量:
      变量名:OLLAMA_HOST
      变量值::8000
      API域名:(本机IP):8000
      
      2.必须设置系统 Windows 用户环境变量:
      变量名:OLLAMA_HOST
      变量值:0.0.0.0
      API域名:http://host.docker.internal:11434
    

6. 至此,所谓的部署已完毕。