AI 大语言模型本地环境部署-Ollama
介绍
什么是Ollama
Ollama是一个开源的本地大语言模型(LLM)运行框架，允许用户在本地计算机上运行各种开源大模型，无需依赖云服务。它提供了简单易用的命令行界面和API，使得开发者可以轻松地在本地部署和使用大模型。
Ollama的主要特点
本地运行：所有模型在本地运行，保护数据隐私
简单易用：提供简单的命令行界面和API
模型丰富：支持多种开源大模型，如Llama、Mistral、CodeLlama等
跨平台支持：支持Windows、macOS和Linux
资源优化：针对不同硬件配置进行优化
自定义模型：支持创建和分享自定义模型
安装部署
注意：ollama拉取失败属于正常情况，可多次尝试
curl -fsSL https://ollama.com/install.sh | sh
ollama
使用Gemma3
运行Gemma3
使用run命令，开始运行模型，如果没有下载过此模型，会自动拉取Ollama模型库的模型：
ollama run gemma3:1b
进行对话（参考问题）
How to learn a programming language?
回复问题时间和硬件配置有关，耐心等待！
视觉功能：（参考问题）
What do you see in this picture? :/home/robot/Pictures/test_pic.jpg
#在对话中使用 ": + 图片的路径"，就可以让模型使用它的视觉功能，让它解析图片中的信息
结束对话（用命令执行）
使用Ctrl+d快捷键或者/bye可以结束对话！
中文对话
没有中文输入法的，可以查看中文输入法切换教程
中文对话：
一个小时是多少分钟，请用中文告诉我
参考资料
Ollama
GitHub：https://github.com/ollama/ollama
Gemma3
Ollama对应模型：https://ollama.com/library/gemma3