PostgreSQL / 系统课时
精确数值与浮点数
精确数值与浮点数
本课解决“金额为什么不能随便用浮点数”的问题。你将区分 numeric、real 和 double precision,并为金额、统计值与科学计算选择合适类型。
学习目标
- 理解精确数值与近似数值的本质区别
- 正确设计金额和比例字段
- 识别浮点比较中的精度风险
numeric:按十进制精确保存
numeric(p, s) 中,p 是总有效位数,s 是小数位数。例如 numeric(12,2) 最多保存 10 位整数和 2 位小数。它适合金额、费率、税率和必须精确核对的数据。
numeric 精度高,但计算和存储成本通常高于浮点类型。字段应按业务上限设置合理精度,不要为了省事无限放大。
real 与 double precision
real 是 4 字节单精度浮点数,double precision 是 8 字节双精度浮点数。它们适合测量值、坐标、模型参数和允许微小误差的大规模计算。
浮点数使用二进制近似表示十进制小数,因此某些看似简单的加法无法精确等于期望值。
sql
SELECT
0.1::numeric + 0.2::numeric AS numeric_sum,
(0.1::double precision + 0.2::double precision)
= 0.3::double precision AS float_equal;预期结果
text
numeric_sum | float_equal
-------------+-------------
0.3 | f
(1 row)字段选择规则
金额通常使用 numeric(精度, 小数位),例如人民币金额可按上限设计为 numeric(18,2)。需要更细费率时,可使用 numeric(10,6) 等更大小数位。
浮点结果不要直接用等号判断业务相等。科学计算可比较误差范围;进入结算、余额或账务前,应按明确规则舍入并转换为精确数值。
按自己的节奏,确认真正理解。