一、你将得到什么
Ollama 是一个让你在本地运行大模型的工具。完成本教程后,你可以:安装 Ollama、下载模型、在终端对话、查看/删除模型,并解决常见安装与运行问题。
二、安装前准备(必看)
系统要求:Windows 10/11 或 macOS;建议预留至少 10GB 可用空间(模型越大占用越多)。
网络建议:首次下载模型需要较稳定网络;如果公司网络限制较多,建议切换到更稳定的网络环境再下载。
安全提醒:只从 Ollama 官方渠道获取安装包/命令,避免来路不明的“整合包”。
三、Windows 安装(两种方式,任选其一)
方式 A:官网安装包(推荐新手)
- 打开官网:https://ollama.com
- 下载 Windows 安装包并安装(一路下一步即可)。
- 安装完成后,打开 PowerShell 或 Windows Terminal。
方式 B:winget(偏进阶)
- 打开 PowerShell(管理员权限通常不需要,遇到权限问题再用管理员)。
- 执行:winget install Ollama.Ollama
验证是否安装成功:在终端输入 ollama --version,能看到版本号即成功。
四、macOS 安装(两种方式)
方式 A:官网安装包
- 打开官网 https://ollama.com 下载 macOS 版本并安装。
- 打开 Terminal,输入 ollama --version 验证。
方式 B:Homebrew
- 已安装 Homebrew 的情况下执行:brew install ollama
- 验证:ollama --version
五、下载并运行第一个模型(照做即可)
下面以一个中等大小的开源模型为例(模型名称会随版本变化,如拉取失败可换同类模型名)。
- 下载模型:ollama pull qwen2.5:7b
- 启动对话:ollama run qwen2.5:7b
- 看到提示后直接输入问题即可开始聊天。
小技巧:如果你只想试跑而不想手动 pull,也可以直接 ollama run ...,它会在需要时自动下载。
六、模型管理(常用命令清单)
- 查看已安装模型:ollama list
- 删除模型释放空间:ollama rm 模型名
- 查看运行帮助:ollama help
七、常见问题与排查(最常遇到的 5 个)
1)下载很慢/卡住
- 换更稳定网络;避免高峰期下载。
- 先尝试较小模型(如 3b/7b 级别)确认流程通畅。
2)提示找不到命令(Windows)
- 重开终端窗口。
- 确认已安装成功;若用安装包安装,通常会自动配置 PATH。
3)macOS 提示“无法打开/来源不明”
- 到“系统设置 → 隐私与安全性”中允许打开(仅限你确认来自官网的安装包)。
4)运行时占用内存很高
- 这是正常现象:模型越大占用越高。优先选择更小模型或减少并行任务。
- 关闭其他占内存软件后再运行。
5)模型名称拉取失败
- 模型名可能有版本差异:先用 ollama list 看本地是否已有。
- 换同系列其它标签或到官网查看最新示例命令。
八、维护建议(让它长期稳定好用)
- 定期用 ollama list 清理不用的模型,避免磁盘被占满。
- 重要工作建议先用小模型打样,再决定是否下载更大模型。
- 遇到异常先重启终端/重启电脑,很多环境问题会自动恢复。