0

0

Ollama怎么安装使用 Ollama本地运行大语言模型详细指南【教学】

幻夢星雲

幻夢星雲

发布时间:2025-12-22 22:51:42

|

698人浏览过

|

来源于php中文网

原创

Ollama安装与使用需分五步:一、按系统下载安装包并验证版本;二、访问localhost:11434确认服务运行;三、执行ollama pull qwen2:7b并run启动交互;四、Docker方式部署支持GPU加速;五、配置OLLAMA_HOST实现局域网访问。

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜

ollama怎么安装使用 ollama本地运行大语言模型详细指南【教学】

如果您希望在本地运行大语言模型,但尚未安装Ollama或不清楚如何启动模型交互,则可能是由于缺少基础环境或未正确配置服务端口。以下是完成Ollama安装与基本使用的详细步骤:

一、根据操作系统选择安装方式

Ollama提供跨平台支持,不同系统需采用对应安装路径,确保命令行工具可识别ollama指令。

1、Windows用户访问https://ollama.com/download/OllamaSetup.exe,下载安装包后双击运行,全程点击“下一步”即可完成安装;

2、macOS用户前往https://ollama.com/download/Ollama-darwin.zip下载压缩包,解压后将Ollama拖入Applications文件夹,并在终端中执行sudo xattr -rd com.apple.quarantine /Applications/Ollama.app解除隔离;

3、Linux用户在终端中执行:curl -fsSL https://ollama.com/install.sh | sh,安装完成后启用服务:systemctl enable ollama && systemctl start ollama

4、所有系统安装完毕后,在终端或PowerShell中输入ollama --version,若返回版本号(如ollama version 0.11.6),表示安装成功。

二、验证服务是否正常运行

Ollama默认以系统服务形式监听本地端口,需确认其HTTP API服务已就绪,方可进行模型拉取与调用。

1、打开浏览器,访问http://localhost:11434

2、若页面显示"Ollama is running",说明服务已启动;

3、若无法访问,检查防火墙是否拦截11434端口,或在Linux/macOS中运行systemctl status ollama查看服务状态;

4、Windows用户可打开任务管理器,确认后台存在ollama.exe进程。

三、下载并运行首个大语言模型

模型下载通过Ollama内置仓库完成,无需手动处理GGUF文件,命令自动解析依赖并缓存至本地模型目录。

1、在终端中执行ollama pull qwen2:7b,该模型为中文优化、参数量适中的轻量级选项;

2、等待下载完成(约2–3GB,视网络而定),终端显示pull complete

Action Figure AI
Action Figure AI

借助Action Figure AI的先进技术,瞬间将照片转化为定制动作人偶。

下载

3、立即运行交互式会话:ollama run qwen2:7b

4、输入任意中文问题(例如“今天北京天气如何?”),模型将在本地生成响应,全部数据不离开设备。

四、使用Docker方式部署(替代方案)

当主机系统受限或需与现有容器生态集成时,Docker部署可绕过本地服务冲突,且便于GPU资源调度。

1、确保已安装Docker Desktop或docker-ce;

2、拉取官方镜像:docker pull ollama/ollama

3、启动容器(CPU模式):docker run -d -p 11434:11434 -v /data/ollama:/root/.ollama --name ollama ollama/ollama

4、如需启用NVIDIA GPU加速,添加--gpus all参数,并确认nvidia-container-toolkit已配置;

5、进入容器执行模型操作:docker exec -it ollama ollama run phi3:3.8b

五、配置局域网远程访问(可选进阶)

若需从手机、平板或其他局域网设备访问本机Ollama服务,必须修改监听地址并开放端口权限。

1、编辑服务配置文件:systemctl edit ollama.service(Linux/macOS)或修改Windows服务环境变量;

2、在[Service]区块下新增一行:Environment="OLLAMA_HOST=0.0.0.0:11434"

3、重载配置并重启服务:systemctl daemon-reload && systemctl restart ollama

4、在其他设备浏览器中输入本机IP加端口,例如http://192.168.1.100:11434,即可访问Web UI或调用API。

相关专题

更多
curl_exec
curl_exec

curl_exec函数是PHP cURL函数列表中的一种,它的功能是执行一个cURL会话。给大家总结了一下php curl_exec函数的一些用法实例,这个函数应该在初始化一个cURL会话并且全部的选项都被设置后被调用。他的返回值成功时返回TRUE, 或者在失败时返回FALSE。

425

2023.06.14

linux常见下载安装工具
linux常见下载安装工具

linux常见下载安装工具有APT、YUM、DNF、Snapcraft、Flatpak、AppImage、Wget、Curl等。想了解更多linux常见下载安装工具相关内容,可以阅读本专题下面的文章。

174

2023.10.30

windows查看端口占用情况
windows查看端口占用情况

Windows端口可以认为是计算机与外界通讯交流的出入口。逻辑意义上的端口一般是指TCP/IP协议中的端口,端口号的范围从0到65535,比如用于浏览网页服务的80端口,用于FTP服务的21端口等等。怎么查看windows端口占用情况呢?php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

576

2023.07.26

查看端口占用情况windows
查看端口占用情况windows

端口占用是指与端口关联的软件占用端口而使得其他应用程序无法使用这些端口,端口占用问题是计算机系统编程领域的一个常见问题,端口占用的根本原因可能是操作系统的一些错误,服务器也可能会出现端口占用问题。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

1095

2023.07.27

windows照片无法显示
windows照片无法显示

当我们尝试打开一张图片时,可能会出现一个错误提示,提示说"Windows照片查看器无法显示此图片,因为计算机上的可用内存不足",本专题为大家提供windows照片无法显示相关的文章,帮助大家解决该问题。

790

2023.08.01

windows查看端口被占用的情况
windows查看端口被占用的情况

windows查看端口被占用的情况的方法:1、使用Windows自带的资源监视器;2、使用命令提示符查看端口信息;3、使用任务管理器查看占用端口的进程。本专题为大家提供windows查看端口被占用的情况的相关的文章、下载、课程内容,供大家免费下载体验。

452

2023.08.02

windows无法访问共享电脑
windows无法访问共享电脑

在现代社会中,共享电脑是办公室和家庭的重要组成部分。然而,有时我们可能会遇到Windows无法访问共享电脑的问题。这个问题可能会导致数据无法共享,影响工作和生活的正常进行。php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

2347

2023.08.08

windows自动更新
windows自动更新

Windows操作系统的自动更新功能可以确保系统及时获取最新的补丁和安全更新,以提高系统的稳定性和安全性。然而,有时候我们可能希望暂时或永久地关闭Windows的自动更新功能。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

775

2023.08.10

php与html混编教程大全
php与html混编教程大全

本专题整合了php和html混编相关教程,阅读专题下面的文章了解更多详细内容。

3

2026.01.13

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
PostgreSQL 教程
PostgreSQL 教程

共48课时 | 7.1万人学习

Git 教程
Git 教程

共21课时 | 2.6万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号