目录

引言

1. windows安装

1.1 下载地址及安装

1.2 配置系统环境变量

2.Centos安装

2.1 Docker安装运行

2.2 配置系统参数

2.3 安装Cuda通过GPU运行Ollama

总结

---

引言

‌Ollama是一个开源的大型语言模型服务工具，它帮助用户快速在本地运行大模型。通过简单的安装指令，用户可以执行一条命令就在本地运行开源大型语言模型，Ollama极大地简化了在Docker容器内部署和管理LLM的过程，使得用户能够快速地在本地运行大型语言模型。

1 下载地址及安装

访问官网下载：Ollama官网下载  百度网盘下载：百度网盘下载

无脑点击下一步即可安装成功！

2 配置系统环境变量

安装成功后如果你打开Win+R输入cmd打开后输入命令：

ollama -v

更多Ollama命令可以查看此文章《Ollama常用命令》

注意：需要配置Ollama的模型下载地址，如果不配置则会把几个G的开源模型安装到你的C盘上！

步骤如下：

总结

安装 Ollama 是一个相对简单的过程，通过遵循本文的指南，你应该能够顺利地在你的系统上安装并配置 Ollama。

以上是关于如何安装和配置 Ollama 的详细教程，希望对你有所帮助。如果在安装过程中遇到问题，可以在本文章下留言寻求解决。