大模型应用开发 / 系统课时
增加 HTTPS 与身份认证
增加 HTTPS 与身份认证
学习目标
完成本课后,你将能够:
- 说明为什么 Ollama 默认 API 不能直接暴露公网
- 在 Nginx 配置 TLS 与基础认证
- 保护凭证、限制来源并验证未授权响应
- 理解 Basic Auth 的适用范围和升级路径
威胁模型
未认证模型 API 可能被用于:
- 消耗 GPU 和带宽
- 读取模型清单
- 触发模型下载或管理操作
- 提交违法或敏感内容
- 造成队列拥塞
- 探测内网服务
TLS 保护传输,认证确认调用者,两者缺一不可。
准备证书
生产应使用可信 CA 签发证书并配置自动续期。本课假设证书路径为:
text
/etc/nginx/ssl/ollama/fullchain.pem
/etc/nginx/ssl/ollama/privkey.pem私钥权限应仅允许必要用户读取。不要把私钥写入教程、Git 或容器镜像。
创建 Basic Auth 用户
安装 htpasswd 工具后执行:
bash
sudo htpasswd -c /etc/nginx/.htpasswd ollama-client预期交互:
text
New password:
Re-type new password:
Adding password for user ollama-client密码不会显示在终端。后续新增用户不要再使用 -c,否则会覆盖文件。
HTTPS 与认证配置
Nginx 配置:
nginx
upstream ollama_backend {
server 127.0.0.1:11434;
}
server {
listen 80;
server_name ollama.example.com;
return 301 https://$host$request_uri;
}
server {
listen 443 ssl;
server_name ollama.example.com;
ssl_certificate /etc/nginx/ssl/ollama/fullchain.pem;
ssl_certificate_key /etc/nginx/ssl/ollama/privkey.pem;
ssl_protocols TLSv1.2 TLSv1.3;
client_max_body_size 20m;
location / {
auth_basic "Ollama API";
auth_basic_user_file /etc/nginx/.htpasswd;
proxy_pass http://ollama_backend;
proxy_http_version 1.1;
proxy_set_header Host localhost:11434;
proxy_set_header X-Real-IP $remote_addr;
proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
proxy_set_header X-Forwarded-Proto $scheme;
proxy_buffering off;
proxy_request_buffering off;
proxy_read_timeout 600s;
}
}加载:
bash
sudo nginx -t
sudo systemctl reload nginx预期输出:
text
nginx: configuration file <PATH> test is successful
命令正常结束。验证未授权与授权
未提供凭证:
bash
curl -i https://ollama.example.com/api/tags预期状态:
text
HTTP/<VERSION> 401 Unauthorized提供凭证:
bash
curl --fail --silent --show-error -u ollama-client https://ollama.example.com/api/tags预期结果:
text
提示输入密码后返回 models JSON。不要在 Shell 历史中写明文密码。
Basic Auth 的边界
Basic Auth 适合少量内部客户端和快速保护,但存在:
- 用户粒度管理有限
- 凭证轮换依赖文件
- 不提供细粒度模型权限
- 不适合浏览器长期保存密码
- 审计和撤销能力有限
复杂系统应使用 API 网关、OAuth2、JWT、mTLS 或企业身份系统。
访问限制与限流
认证之外还应考虑:
- 防火墙只允许可信来源
- Nginx
allow/deny - 每用户或 IP 限流
- 最大并发
- 最大请求体
- 请求总超时
- 模型白名单
- 管理端点隔离
- 审计日志
单一共享密码无法防止合法用户过量使用。
证书和凭证运维
建立:
- 证书到期监控
- 自动续期后的 Nginx reload
- 密码或令牌轮换
- 离职用户撤销
- 失败登录监控
- 配置备份
- 私钥权限检查
- 过期 TLS 协议禁用
测试环境自签名证书不能直接替代生产信任链。
本课练习
练习 1:配置 401 验证
任务目标:确认认证真正生效。输入或初始条件:Nginx 已代理 Ollama。
实现要求:开启 Basic Auth 并分别测试有无凭证。验收条件:未授权为 401,授权为 200。
练习 2:设计凭证轮换
任务目标:避免共享密码长期不变。输入或初始条件:有三个内部客户端。实现要求:定义独立账号、轮换和撤销。验收条件:撤销一个账号不影响其他客户端。
练习 3:规划网关升级
任务目标:识别 Basic Auth 不足。输入或初始条件:未来需要用户级配额和审计。实现要求:设计 API 网关方案。验收条件:包含身份、模型权限、限流和日志。
按自己的节奏,确认真正理解。