无标题

文章目录

  • 概述
  • Windows 修改模型保存位置
  • Linux 修改模型保存位置
  • 参考资料
  • 拉取模型

概述

ollama + open-webui 可以在本地环境部署如同 OpenAI 的 ChatGPT 的大语言模型交互 UI ，部署方法参考[[大语言模型本地部署与使用_ollama_open-webui]] ，但 ollama 的大语言模型文件默认保存在 C 盘 (Windows), 动辄几个GB甚至几十个GB的数据会占据系统盘很大的空间，这里记录一下将模型文件保存在其他路径的设置方法.

ollama 默认的模型保存路径如下:

  • Windows : C:\Users\%username%\.ollama\models
  • MacOS : ~/.ollama/models
  • Linux : /usr/share/ollama/.ollama/models

Windows 修改模型保存位置

注: 原文链接

通过设置环境变量，添加 OLLAMA_MODELS 环境变量，例如 E:\ollama\models,设置完成后重启 ollama 或 PowerShell，即可完成模型位置的迁移，再次加载或拉取模型文件时生效，如下图所示：

ollama

Linux 修改模型保存位置

注: 原文链接

如果 Ollama 以 systemd 服务的形式运行，则应使用 systemctl 设置环境变量：

  1. 通过调用 systemctl edit ollama.service 编辑 systemd 服务。这将打开一个编辑器。
  2. 对于每个环境变量，在 [Service] 部分下添加一行 Environment：
1
2
3
[Service]
Environment="OLLAMA_MODELS=/home/<username>/ollama_models"

  1. 退出编辑器并保存文本
  2. 重新启动 ollama 服务
1
2
systemctl daemon-reload
systemctl restart ollama

如果不小心删除了文件请使用下面的命令重新生成密钥

ssh-keygen -t ed25519 -f “/c/Users/Stone/.ollama/id_ed25519” -N “”

拉取模型（以DeepSeek-R1本地模型为例）

1
ollama run deepseek-r1:参数大小