大模型应用开发 / 系统课时

配置服务监听地址

配置服务监听地址

学习目标

完成本课后,你将能够:

  • 理解默认仅本机监听的安全意义
  • 通过 OLLAMA_HOST 配置局域网监听
  • 在 Windows、macOS、Linux 和 Docker 中生效
  • 验证端口、防火墙和客户端连通性

默认监听范围

Ollama 默认绑定 127.0.0.1:11434,只有本机可以访问。这一默认值降低了未认证 API 被其他设备调用的风险。

要允许局域网访问,需要修改绑定地址,并同时配置操作系统防火墙和网络访问控制。

监听地址选择

常见值:

text
127.0.0.1:11434
0.0.0.0:11434
<LAN_IP>:11434
  • 127.0.0.1:仅本机。
  • 0.0.0.0:监听所有 IPv4 网卡。
  • 指定局域网 IP:只监听目标网卡。

生产环境优先指定受控地址,或保持本机监听并使用反向代理。

Linux systemd 配置

编辑 override:

bash
sudo systemctl edit ollama

写入:

ini
[Service]
Environment="OLLAMA_HOST=0.0.0.0:11434"

生效:

bash
sudo systemctl daemon-reload
sudo systemctl restart ollama
systemctl is-active ollama
sudo ss -lntp | grep ':11434'

预期输出结构:

text
active
LISTEN ... 0.0.0.0:11434 ... ollama ...

macOS 配置

退出 Ollama 后执行:

bash
launchctl setenv OLLAMA_HOST "0.0.0.0:11434"
launchctl getenv OLLAMA_HOST
open -a Ollama

预期输出:

text
0.0.0.0:11434

重启应用后检查:

bash
lsof -nP -iTCP:11434 -sTCP:LISTEN

预期结果:

text
监听地址不再只限于 127.0.0.1。

Windows 配置

退出托盘中的 Ollama,再在 PowerShell 设置用户环境变量:

powershell
[Environment]::SetEnvironmentVariable(
    "OLLAMA_HOST",
    "0.0.0.0:11434",
    "User"
)
[Environment]::GetEnvironmentVariable("OLLAMA_HOST", "User")

预期输出:

text
0.0.0.0:11434

重新启动 Ollama 后检查:

powershell
Get-NetTCPConnection -LocalPort 11434 -State Listen

预期结果:

text
LocalAddress 显示允许局域网访问的监听地址。

Docker 端口

容器内 Ollama 通常监听容器端口,宿主机通过端口映射开放:

bash
docker run -d   --name ollama   --restart unless-stopped   -v ollama:/root/.ollama   -p 11434:11434   ollama/ollama

预期输出:

text
<CONTAINER_ID>

-p 11434:11434 默认可能绑定宿主机所有网卡。只允许本机代理访问时可使用:

bash
-p 127.0.0.1:11434:11434

这是 docker run 参数片段,需要放入完整启动命令。

局域网验证

在 Ollama 主机查看局域网 IP,然后在另一台受控设备执行:

bash
curl --fail --silent --show-error http://<OLLAMA_LAN_IP>:11434/api/tags

预期结果:

text
HTTP 请求成功并返回 models 数组。

如果本机访问成功而远端失败,优先检查监听地址、防火墙、路由和 Wi-Fi 客户端隔离。

安全边界

直接开放默认 API 意味着局域网设备可能:

  • 查看模型列表
  • 调用模型消耗 CPU/GPU
  • 拉取或删除模型,取决于可访问端点
  • 提交敏感内容
  • 造成队列拥塞

应使用防火墙限制来源,并在后续通过 Nginx 增加 TLS、认证、限流和日志。

本课练习

练习 1:限定单网卡监听

任务目标:减少暴露范围。输入或初始条件:主机有多个网络接口。实现要求:绑定指定 LAN IP。验收条件:其他网卡地址无法访问。

练习 2:排查远端连接

任务目标:建立网络诊断顺序。输入或初始条件:本机 API 正常,远端超时。实现要求:检查监听、防火墙、路由和客户端隔离。验收条件:每层有命令或明确验证方法。

练习 3:恢复本机监听

任务目标:掌握安全回退。输入或初始条件:已设置 0.0.0.0。实现要求:改回 127.0.0.1 并重启。验收条件:本机可用,其他设备无法连接。

按自己的节奏,确认真正理解。

目录与阅读设置

阅读设置

17

记录一个想法

配置服务监听地址

0 / 10000 · 笔记保存到账号。未提交的修改会在关闭、离开或刷新后丢失。

登录哪都通