PostgreSQL / 系统课时

精确数值与浮点数

精确数值与浮点数

本课解决“金额为什么不能随便用浮点数”的问题。你将区分 numeric、real 和 double precision,并为金额、统计值与科学计算选择合适类型。

学习目标

  • 理解精确数值与近似数值的本质区别
  • 正确设计金额和比例字段
  • 识别浮点比较中的精度风险

numeric:按十进制精确保存

numeric(p, s) 中,p 是总有效位数,s 是小数位数。例如 numeric(12,2) 最多保存 10 位整数和 2 位小数。它适合金额、费率、税率和必须精确核对的数据。

numeric 精度高,但计算和存储成本通常高于浮点类型。字段应按业务上限设置合理精度,不要为了省事无限放大。

real 与 double precision

real 是 4 字节单精度浮点数,double precision 是 8 字节双精度浮点数。它们适合测量值、坐标、模型参数和允许微小误差的大规模计算。

浮点数使用二进制近似表示十进制小数,因此某些看似简单的加法无法精确等于期望值。

sql
SELECT
    0.1::numeric + 0.2::numeric AS numeric_sum,
    (0.1::double precision + 0.2::double precision)
        = 0.3::double precision AS float_equal;

预期结果

text
 numeric_sum | float_equal
-------------+-------------
         0.3 | f
(1 row)

字段选择规则

金额通常使用 numeric(精度, 小数位),例如人民币金额可按上限设计为 numeric(18,2)。需要更细费率时,可使用 numeric(10,6) 等更大小数位。

浮点结果不要直接用等号判断业务相等。科学计算可比较误差范围;进入结算、余额或账务前,应按明确规则舍入并转换为精确数值。

按自己的节奏,确认真正理解。

目录与阅读设置

阅读设置

17

记录一个想法

精确数值与浮点数

0 / 10000 · 笔记保存到账号。未提交的修改会在关闭、离开或刷新后丢失。

登录哪都通