Ubuntu设置ollama保存模型的路径和设置监听端口
通过上述设置,以后ollama pull命令拉取到的模型都保存在/path/to/ollama/models,而ollama run命令运行的模型都可以在地址0.0.0.0:11434被访问。之前折腾环境的时候,不小心删除了/usr/share/ollama这个目录,这个也是需要的,而且如果手动创建后最好给个权限,sudo chown -R 777 /usr/share/ollama。PS:上面修
·
下载模型之前可以修改下模型默认保存路径。
sudo mkdir /path/to/ollama/models
sudo chown -R 777 /path/to/ollama/models
sudo vi /etc/systemd/system/ollama.service
在[Service]下面添加相应的环境变量Environment,包括OLLAMA_HOST和OLLAMA_MODELS
Environment="OLLAMA_MODELS=/path/to/ollama/models"
Environment="OLLAMA_HOST=0.0.0.0:11434"
通过上述设置,以后ollama pull命令拉取到的模型都保存在/path/to/ollama/models,而ollama run命令运行的模型都可以在地址0.0.0.0:11434被访问。修改后的ollama.service完整内容如下:
[Unit]
Description=Ollama Service
After=network-online.target
[Service]
ExecStart=/usr/local/bin/ollama serve
User=ollama
Group=ollama
Restart=always
RestartSec=3
Environment=xxxxxxxxxxx这一行就不复制了
Environment="OLLAMA_MODELS=/path/to/ollama/models"
Environment="OLLAMA_HOST=0.0.0.0:11434"
[Install]
WantedBy=default.target
最后,sudo执行以下两个命令以使设置生效并重启ollama:
sudo systemctl daemon-reload
sudo systemctl restart ollama
上面修改来源参考来自 知乎 南门子 的内容
PS:上面修改方式不支持用snap这种方式去安装的ollama。
之前折腾环境的时候,不小心删除了/usr/share/ollama这个目录,这个也是需要的,而且如果手动创建后最好给个权限,sudo chown -R 777 /usr/share/ollama
转自:Linux Ubuntu设置ollama保存模型的路径和设置监听端口_linux ollama指定模型路径-CSDN博客
更多推荐
已为社区贡献1条内容
所有评论(0)