掌握Ollama和Nexa AI的安装与使用，让本地运行AI模型变得轻松。

掌握如何在本地机器上安装和使用Ollama与Nexa AI，这两个平台将帮助开发者能够轻松运行和管理AI模型。本文分享安装和基本使用方法。

1 Ollama

在Linux机器上下载并安装Ollama，可以使用下面的命令一键安装：

curl -fsSL https://ollama.com/install.sh | sh   

对于MacOS和Windows，请访问Ollama下载页面链接（https://ollama.com/download）获取相应的安装包。

安装完成后，在终端输入ollama命令，如果安装成功，你会看到命令行输出的相关提示。

Ollama允许你从模型中心拉取所需的模型，并在本地运行。在运行模型前，请确保你的硬件配置满足模型的运行要求。使用以下命令运行模型：

ollama run <model-name>   

如果想在浏览器中使用模型，可以拉取模型镜像后，使用serve命令启动Ollama的本地Web服务器：

本地服务器启动后，可以通过Python脚本或Postman调用API，获取模型的响应数据。更多关于如何使用Web服务器的示例，可以参考Ollama官方博客（https://ollama.com/blog/llama3.2-vision）。

2 Nexa AI

Nexa AI与Ollama大致相似（二者为各种用例提供了工具），但其中心枢纽拥有更丰富的模型资源，包括大型和小型语言模型，以及图像、音频和视频生成模型。

你可以使用这个链接下载Nexa SDK：https://nexa.ai/download-sdk。

对于Linux用户，可以通过执行以下命令快速安装SDK：

curl -fsSL https://public-storage.nexa4ai.com/install.sh | sh   

对于其他操作系统的用户，可以直接从上述链接下载对应的安装文件。此外，Nexa SDK也支持通过Python的pip安装器进行安装。

安装完成后，可以通过在终端输入nexa命令来验证SDK是否安装成功。如果安装无误，终端会显示预期的输出结果。

如果从Nexa中心枢纽拉取了模型到本地机器，那么可以使用命令nexa list进行验证，会显示类似下面的内容。

如果模型镜像尚未拉取，那么可以使用命令nexa pull <model-name>或者run命令来拉取omnivision模型（一个小型视觉语言模型）。除了run命令，还有一个-st标志，你可以使用它来启动Streamlit服务器，通过浏览器的UI使用模型。

Nexa UI与Streamlit

和Ollama一样，你可以使用下面的命令从你的本地移除任何你不想要的模型：

nexa remove <model-name>   

Nexa AI和Ollama都提供了丰富的模型中心，你可以尝试运行不同的模型，体验在本地机器上运行生成性AI模型的便捷性。通过实践，你会发现在本地部署和测试AI模型是一件非常简单的事情。

推荐书单

《LangChain大模型AI应用开发实践》

《LangChain大模型AI应用开发实践》是一本深度探索LangChain框架及其在构建高效AI应用中所扮演角色的权威教程。本书以实战为导向，系统介绍了从LangChain基础到高级应用的全过程，旨在帮助开发者迅速掌握这一强大的工具，解锁人工智能开发的新维度。

本书内容围绕LangChain快速入门、Chain结构构建、大模型接入与优化、提示词工程、高级输出解析技术、数据检索增强（RAG）、知识库处理、智能体（agent）开发及其能力拓展等多个层面展开。通过详实的案例分析与步骤解说，读者可以学会整合如ChatGLM等顶尖大模型，运用ChromaDB进行高效的向量检索，以及设计与实现具有记忆功能和上下文感知能力的AI智能体。此外，书中还介绍了如何利用LangChain提升应用响应速度、修复模型输出错误、自定义输出解析器等实用技巧，为开发者提供了丰富的策略与工具。

本书主要面向AI开发者、数据科学家、机器学习工程师，以及对自然语言处理和人工智能应用感兴趣的中级和高级技术人员。

AI大模型学习福利

作为一名热心肠的互联网老兵，我决定把宝贵的AI知识分享给大家。 至于能学习到多少就看你的学习毅力和能力了 。我已将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

大模型&AI产品经理如何学习

求大家的点赞和收藏，我花2万买的大模型学习资料免费共享给你们，来看看有哪些东西。

1.学习路线图

第一阶段： 从大模型系统设计入手，讲解大模型的主要方法；

第二阶段： 在通过大模型提示词工程从Prompts角度入手更好发挥模型的作用；

第三阶段： 大模型平台应用开发借助阿里云PAI平台构建电商领域虚拟试衣系统；

第四阶段： 大模型知识库应用开发以LangChain框架为例，构建物流行业咨询智能问答系统；

第五阶段： 大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型；

第六阶段： 以SD多模态大模型为主，搭建了文生图小程序案例；

第七阶段： 以大模型平台应用与开发为主，通过星火大模型，文心大模型等成熟大模型构建大模型行业应用。

2.视频教程

网上虽然也有很多的学习资源，但基本上都残缺不全的，这是我自己整理的大模型视频教程，上面路线图的每一个知识点，我都有配套的视频讲解。

（都打包成一块的了，不能一一展开，总共300多集）

因篇幅有限，仅展示部分资料，需要点击下方图片前往获取

3.技术文档和电子书

这里主要整理了大模型相关PDF书籍、行业报告、文档，有几百本，都是目前行业最新的。

4.LLM面试题和面经合集

这里主要整理了行业目前最新的大模型面试题和各种大厂offer面经合集。

👉学会后的收获：👈
• 基于大模型全栈工程实现（前端、后端、产品经理、设计、数据分析等），通过这门课可获得不同能力；

• 能够利用大模型解决相关实际项目需求： 大数据时代，越来越多的企业和机构需要处理海量数据，利用大模型技术可以更好地处理这些数据，提高数据分析和决策的准确性。因此，掌握大模型应用开发技能，可以让程序员更好地应对实际项目需求；

• 基于大模型和企业数据AI应用开发，实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能， 学会Fine-tuning垂直训练大模型（数据准备、数据蒸馏、大模型部署）一站式掌握；

• 能够完成时下热门大模型垂直领域模型训练能力，提高程序员的编码能力： 大模型应用开发需要掌握机器学习算法、深度学习框架等技术，这些技术的掌握可以提高程序员的编码能力和分析能力，让程序员更加熟练地编写高质量的代码。

1.AI大模型学习路线图
2.100套AI大模型商业化落地方案
3.100集大模型视频教程
4.200本大模型PDF书籍
5.LLM面试题合集
6.AI产品经理资源合集

👉获取方式：
😝有需要的小伙伴，可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓