大模型应用开发 / 系统课时

使用 run 启动首个模型

使用 run 启动首个模型

学习目标

完成本课后,你将能够:

  • 使用 ollama run 下载并启动一个模型
  • 区分首次运行与再次运行的差异
  • 在交互会话中提交单行和多行提示词
  • 正确退出会话并验证模型仍保存在本地

run 命令完成了什么

ollama run <MODEL> 会先检查本地是否存在目标模型。模型不存在时,CLI 会拉取模型清单和数据分层;模型存在时,会直接请求本地 Ollama 服务加载模型并进入交互会话。

本课使用 gemma3:1b 作为轻量示例。模型标签可能随模型库更新,执行前可以在 Ollama 模型库确认该标签仍可用。设备资源较少时应优先选择小参数量模型。

首次启动模型

执行:

bash
ollama run gemma3:1b

预期结果:

text
pulling manifest
pulling <LAYER_DIGEST>: 100% ...
verifying sha256 digest
writing manifest
success
>>> Send a message (/? for help)

分层摘要、速度和进度会因版本与网络变化。成功标准是下载完成并出现交互提示符 >>>。

完成第一次对话

在交互提示符后输入:

text
请用三句话说明本地大模型的优点。

预期结果:

text
<MODEL_RESPONSE>
>>>

模型回答不是固定文本。验收标准是出现非空回答,并重新返回交互提示符。

输入多行提示词

交互模式可以使用三个双引号包住多行内容:

text
>>> """请完成以下任务:
... 1. 提取主题
... 2. 输出三个关键词
... 3. 使用中文回答
... """

预期结果:

text
<MULTILINE_RESPONSE>
>>>

多行模式适合粘贴短文、代码或分步骤要求。输入内容仍受模型上下文长度限制。

查看交互帮助并退出

在会话中输入:

text
/?

预期结果:

text
<INTERACTIVE_HELP>

帮助内容会随版本变化。退出会话可以输入:

text
/bye

预期结果:

text
返回系统终端提示符。

也可以按 Control+D 结束标准输入。Control+C 通常用于中断当前生成;是否退出会话取决于当前状态。

再次运行已下载模型

执行:

bash
ollama run gemma3:1b "只回答:模型已启动"

预期输出:

text
<MODEL_RESPONSE>

再次运行通常不会重新下载完整模型。如果模型已从内存卸载,仍可能产生模型加载等待;磁盘中已有模型与内存中已加载模型是两个不同状态。

验证模型已保存

执行:

bash
ollama list

预期输出中应包含:

text
NAME          ID          SIZE      MODIFIED
gemma3:1b     <MODEL_ID>  <SIZE>    <MODIFIED>

ID、大小和时间为动态值。只要列表中存在 gemma3:1b,就说明模型已保存在本地。

常见启动问题

  • model not found:检查名称与标签是否存在,并确认没有输入空格或全角标点。
  • 下载长时间停滞:检查网络、代理、DNS、磁盘空间和服务日志。
  • 模型加载失败:检查系统内存、显存和上下文设置。
  • 连接 localhost:11434 失败:确认 Ollama 服务已经启动。
  • 回答很慢:使用 ollama ps 查看模型是否运行在 CPU,或模型是否只部分卸载到 GPU。

本课练习

练习 1:完成单轮调用

任务目标:熟悉非交互式 run。输入或初始条件:本地已安装 Ollama,模型尚未下载。实现要求:使用一条命令运行轻量模型并提交固定问题

验收条件:命令完成后返回非空回答,ollama list 中出现模型。

练习 2:比较首次和再次启动

任务目标:观察下载、加载与生成的差异。输入或初始条件:同一个模型连续运行两次。

实现要求:记录两次命令开始到首个输出的时间,并解释差异。验收条件:能区分首次下载、模型加载和文本生成。

练习 3:编写多行提示词

任务目标:掌握交互式多行输入。输入或初始条件:准备一段不少于 5 行的文本。实现要求:要求模型提取主题、关键词和结论

验收条件:提示词保持多行结构,输出包含三个指定部分。

按自己的节奏,确认真正理解。

目录与阅读设置

阅读设置

17

记录一个想法

使用 run 启动首个模型

0 / 10000 · 笔记保存到账号。未提交的修改会在关闭、离开或刷新后丢失。

登录哪都通