在这一篇教程里，我们将一步一步带大家完成 Ollama 的下载安装、模型部署以及在 Dify 中的关联使用，如果你之前从来没有尝试过在本地运行大模型，不用担心，这个过程并不复杂，只要跟着步骤来就能顺利完成
整个流程大致可以分为四个环节：下载安装 Ollama->搜索模型->安装模型(以deepsekk为例)->Dify 关联 Ollama；最后，我们会让本地运行的模型与 Dify 连接起来，这样就能在 Dify 里直接调用并使用
通过这几个步骤，你就可以把大模型真正跑在自己的电脑上，并且和 Dify 联动，形成一个完整的工作流
1：下载安装Ollama
手动部署最简单的方式就是使用Ollama，这是一个帮助你部署和运行大模型的工具。官网如下：
https://ollama.com/
首先，我们需要下载一个Ollama的客户端
在官网提供了各种不同版本的Ollama，大家可以根据自己的需要下载，点击download
我们是Windows系统，所以点击Windows，然后点击黑色按钮Download for Windows
这个地方要开魔法才能下载！大家注意
下载后双击即可安装
但是双击之后安装是默认装在C盘的，不想装在C盘的朋友需要通过命令行安装
我们把安装板剪贴到D盘，然后再创建一个空的文件夹，方便我们待会儿直接安装在这个空文件下
接下来在根目录处输入cmd，然后按下回车键
然后粘贴这串代码到命令窗口
我们是D盘下的一级目录，所以安装的目录位置为："D:\oll"点击复制命令OllamaSetup.exe /DIR="你要安装的目录位置"
然后按下回车键
点击Install进行安装即可
更改模型安装位置
这个部分我们在测试的时候发现出现了两种情况，可以直接通过Ollama软件的设置更改模型的安装目录
但是有同事的电脑根本无法打开Ollama软件的界面，所以通过了系统变量去更改模型的安装目录，大家根据自己的情况选择一种方式进行安装目录的更改即可
直接通过Ollama设置更改模型安装位置
直接单击右键点击桌面右下角的这个小羊，然后点击Setings，在红框内更改模型的安装目录即可
使用系统变量更改模型安装位置
安装完成后，还需要配置一个环境变量，更改Ollama下载和部署模型的位置
在桌面上找到此电脑，右键一下，点击属性
然后在弹窗中点击高级系统设置
在出现的下一个弹窗中点击环境变量
我们需要新建的是系统变量，点击这里的新建按钮
在弹窗里输入变量名称和变量值（变量名称固定，变量值是你想要的保存大模型的目录路径）
配置好之后点击确定即可：点击复制命令
OLLAMA_MODELS
你想要保存模型的目录接下来在命令行窗口检验一下，输入ollama出现这些内容，就说明配置成功了
2：搜索模型
ollama是一个模型管理工具和平台，它提供了很多国内外常见的模型，我们可以在其官网上搜索自己需要的模型：
https://ollama.com/search
我们这次是以部署Deepseek为例，所以就部署这个deepseek-r1，大家点击进入下一级页面
进入页面之后可以看到deepseek也是有很多版本的，大家按照自己的需求进行下载即可
3：安装模型
我的电脑内存和显存都比较低，我下的是7b的版本
大家根据自己的电脑性能选择适合的模型，不然本地部署容易卡顿，点击进入下一级页面
在新界面点击这里的复制按钮，复制命令
然后打开一个命令行窗口，粘贴进去直接运行就行了
接下来会显示这行字，然后就不动了，这是正常的
这是ollama在拉取模型的清单文件，拉取完之后就会开始下载相关的配置文件了
首次运行命令需要下载模型，根据模型大小不同下载时长在5分钟~1小时不等，请耐心等待下载完成。这个Ollama很多时候都不太稳定，如果大家这里一直卡着没动的话，按Ctrl+C重新运行一次，就正常了
下载完成之后，我们就可以跟本地模型聊天了
出现报错重新拉取几次就行了，要么是电脑配置过低模型不匹配，要么就是网络不稳定太卡了
4：Dify关联Ollama
上面的步骤，我们只是完成了ollama的本地部署，想要在Dify里面运行我们本地部署的大模型，还需要进行关联
Dify 是通过Docker部署的，而Ollama 是运行在本地电脑的，得让Dify能访问Ollama 的服务
在Dify项目-docker-找到.env文件
右键单击，找到打开方式——然后选择用记事本打开
在末尾加上下面的配置，然后保存（Ctrl+s）关闭即可：点击复制命令
# 启用自定义模型
CUSTOM_MODEL_ENABLED=true
# 指定 Ollama 的 API地址（根据部署环境调整IP）
OLLAMA_API_BASE_URL=host.docker.internal:11434
然后在模型中配置
在Dify的主界面，点击右上角用户名下的【设置】
然后点击模型供应商，找到Ollama，点击添加模型
在这里输入模型名称，和我们更改张贴的url地址
添加完成之后，点击保存就行了
