READ / ARTICLES

技术文章

从一个具体问题出发,读懂原理,也读懂工程中的取舍。

当前方向 · 6 篇文章

大模型为什么会产生幻觉机制

开发大模型应用时经常遇到模型编造事实、输出错误信息的问题,这篇内容解释幻觉产生的训练与推理机制,帮助工程师判断风险来源并设计更可靠的应用方案。

技术文章 · 技术实践

大模型推理为什么吃显存

部署大模型推理服务时显存不足会限制模型规模和并发能力,这篇内容解释参数、缓存与计算过程中的显存来源,帮助开发者判断瓶颈并选择量化、批处理等优化方案。

技术文章 · 技术实践

微调和 RAG 到底该怎么选

企业知识问答、垂直助手和专用模型常在微调与 RAG 之间反复权衡。理解两种方案分别改变模型行为还是补充外部知识,并比较时效性、可追溯性、成本与维护方式后,就能判断该单独使用哪一种,以及什么时候值得组合使用。

技术文章 · 技术实践

LoRA 为什么少参数也有效

大模型微调时全部参数更新成本高,LoRA通过低秩矩阵学习关键变化,解释参数减少的原因、训练机制与适用场景,帮助开发者选择更高效的模型适配方案。

技术文章 · 技术实践

登录哪都通