大模型应用开发 / 系统课时
使用 run 启动首个模型
使用 run 启动首个模型
学习目标
完成本课后,你将能够:
- 使用
ollama run下载并启动一个模型- 区分首次运行与再次运行的差异
- 在交互会话中提交单行和多行提示词
- 正确退出会话并验证模型仍保存在本地
run 命令完成了什么
ollama run <MODEL> 会先检查本地是否存在目标模型。模型不存在时,CLI 会拉取模型清单和数据分层;模型存在时,会直接请求本地 Ollama 服务加载模型并进入交互会话。
本课使用 gemma3:1b 作为轻量示例。模型标签可能随模型库更新,执行前可以在 Ollama 模型库确认该标签仍可用。设备资源较少时应优先选择小参数量模型。
首次启动模型
执行:
ollama run gemma3:1b预期结果:
pulling manifest
pulling <LAYER_DIGEST>: 100% ...
verifying sha256 digest
writing manifest
success
>>> Send a message (/? for help)分层摘要、速度和进度会因版本与网络变化。成功标准是下载完成并出现交互提示符 >>>。
完成第一次对话
在交互提示符后输入:
请用三句话说明本地大模型的优点。预期结果:
<MODEL_RESPONSE>
>>>模型回答不是固定文本。验收标准是出现非空回答,并重新返回交互提示符。
输入多行提示词
交互模式可以使用三个双引号包住多行内容:
>>> """请完成以下任务:
... 1. 提取主题
... 2. 输出三个关键词
... 3. 使用中文回答
... """预期结果:
<MULTILINE_RESPONSE>
>>>多行模式适合粘贴短文、代码或分步骤要求。输入内容仍受模型上下文长度限制。
查看交互帮助并退出
在会话中输入:
/?预期结果:
<INTERACTIVE_HELP>帮助内容会随版本变化。退出会话可以输入:
/bye预期结果:
返回系统终端提示符。也可以按 Control+D 结束标准输入。Control+C 通常用于中断当前生成;是否退出会话取决于当前状态。
再次运行已下载模型
执行:
ollama run gemma3:1b "只回答:模型已启动"预期输出:
<MODEL_RESPONSE>再次运行通常不会重新下载完整模型。如果模型已从内存卸载,仍可能产生模型加载等待;磁盘中已有模型与内存中已加载模型是两个不同状态。
验证模型已保存
执行:
ollama list预期输出中应包含:
NAME ID SIZE MODIFIED
gemma3:1b <MODEL_ID> <SIZE> <MODIFIED>ID、大小和时间为动态值。只要列表中存在 gemma3:1b,就说明模型已保存在本地。
常见启动问题
model not found:检查名称与标签是否存在,并确认没有输入空格或全角标点。- 下载长时间停滞:检查网络、代理、DNS、磁盘空间和服务日志。
- 模型加载失败:检查系统内存、显存和上下文设置。
- 连接
localhost:11434失败:确认 Ollama 服务已经启动。 - 回答很慢:使用
ollama ps查看模型是否运行在 CPU,或模型是否只部分卸载到 GPU。
本课练习
练习 1:完成单轮调用
任务目标:熟悉非交互式 run。输入或初始条件:本地已安装 Ollama,模型尚未下载。实现要求:使用一条命令运行轻量模型并提交固定问题
验收条件:命令完成后返回非空回答,ollama list 中出现模型。
练习 2:比较首次和再次启动
任务目标:观察下载、加载与生成的差异。输入或初始条件:同一个模型连续运行两次。
实现要求:记录两次命令开始到首个输出的时间,并解释差异。验收条件:能区分首次下载、模型加载和文本生成。
练习 3:编写多行提示词
任务目标:掌握交互式多行输入。输入或初始条件:准备一段不少于 5 行的文本。实现要求:要求模型提取主题、关键词和结论
验收条件:提示词保持多行结构,输出包含三个指定部分。