图形渲染与 Shader / 系统课时

float、half 和精度怎么选

float、half 和精度怎么选

Shader 中的浮点精度会同时影响数值范围、计算稳定性和移动 GPU 的资源占用。本节不追求“全部改成低精度”,而是建立一套可操作的选择方法:先看数据用途,再决定使用 float 还是 half,最后通过画面和目标设备验证结果。

学习目标

  • 区分 float 与 half 在精度、范围和硬件执行上的差异
  • 根据坐标、颜色、方向等数据用途选择合适精度
  • 识别低精度导致的色带、抖动和计算误差

精度类型解决的不是同一个问题

在 HLSL 风格的 Shader 中,float 通常表示 32 位浮点数,half 通常表达较低精度的浮点需求。它们最重要的区别不是变量能不能保存小数,而是有效精度、可表示范围以及目标 GPU 是否能以更低成本处理较低精度数据。

桌面 GPU 上,half 未必总能带来明显性能收益;移动 GPU 则更可能针对 16 位运算和寄存器提供优化。因此,精度选择应该同时考虑数据本身和目标硬件,而不能仅凭类型名字推断性能。

从数据用途选择类型

可以先按“误差是否会被放大”判断。颜色、简单遮罩和大多数归一化后的中间值通常容忍较低精度;世界坐标、大范围距离、深度相关计算以及多次累积的结果,则更容易受到精度不足影响。

数据 常见起点 原因
顶点或世界空间位置 float 数值范围大,微小误差可能转化为明显的位置抖动
UV 坐标 half 或 float 普通纹理采样常可用较低精度,大范围平铺时需验证
颜色与透明度 half 常位于较小范围,对极高精度通常不敏感
单位法线、光照方向 half 归一化后的范围有限,但高光计算仍应观察误差
时间累积、大距离和深度 float 累积或大范围数据更容易放大低精度误差

这张表是起点而不是硬规则。例如一个 UV 被乘以很大的平铺系数后,原本安全的低精度可能出现跳变;一个用于高光的方向向量经过多次运算后,也可能需要提升精度。

在同一段计算中混合精度

下面是一个片段示例,假设引擎已经提供 UV、颜色以及时间参数。它展示了一种常见策略:对大范围或累积数据保留 float,对最终颜色和局部遮罩使用 half。

hlsl
float2 uv = input.uv;
float timeValue = _TimeValue;

// 时间不断累积,保留 float,避免长时间运行后低精度误差变明显。
float wave = sin(uv.x * 20.0 + timeValue);

// 遮罩最终只参与颜色混合,较低精度通常已经足够。
half mask = (half)(wave * 0.5 + 0.5);
half3 darkColor = half3(0.05, 0.10, 0.20);
half3 lightColor = half3(0.20, 0.80, 1.00);
half3 finalColor = lerp(darkColor, lightColor, mask);

这是依赖宿主 Shader 输入和参数的片段示例,不能单独运行。集成后应观察条纹渐变是否连续,并在运行较长时间后确认动画没有出现跳动、停滞或明显量化误差。

低精度失败时会看到什么

精度问题通常不是编译错误,而是视觉异常。渐变颜色可能出现色带,缓慢变化的参数可能一格一格跳动,大世界坐标下的顶点可能轻微抖动,连续累计的时间或距离也可能逐渐失去细节。

排查时不要一次把整个 Shader 改回 float。更有效的办法是从异常结果向上追踪数据链:先提升产生异常的中间值,再检查它依赖的坐标、距离或累积变量。这样既能定位真正的精度瓶颈,也不会无谓扩大所有变量的成本。

精度选择的核心不是记住哪种类型“更快”,而是判断误差会不会在后续计算中被放大。对视觉结果不敏感的数据降低精度,对决定空间位置、深度或长期累积结果的数据保留足够精度,通常比全局统一类型更可靠。

按自己的节奏,确认真正理解。

目录与阅读设置

阅读设置

17

记录一个想法

float、half 和精度怎么选

0 / 10000 · 笔记保存到账号。未提交的修改会在关闭、离开或刷新后丢失。

登录哪都通