JavaScript / TypeScript / 系统课时
数字处理与精度问题
数字处理与精度问题
JavaScript 中的数字处理经常隐藏着精度陷阱。本篇将学习 Number 提供的常用方法、NaN 判断方式和浮点数舍入规则,帮助你在金额计算、统计处理和数据转换场景中避免常见错误。
学习目标
- 理解 JavaScript Number 类型的表示方式和精度限制
- 掌握 NaN 判断、数字转换和舍入处理方法
- 能够识别并处理浮点数计算中的误差问题
理解 JavaScript 数字模型
JavaScript 的所有普通数字都使用 IEEE 754 双精度浮点数表示,包括整数和小数。这种设计让语言实现简单,但也带来了安全整数范围和小数精度限制。
例如,部分十进制小数无法被二进制精确表示,因此计算结果可能出现额外的小数位:
const result = 0.1 + 0.2;
console.log(result);
console.log(result === 0.3);预期输出
0.30000000000000004
false这种现象不是 JavaScript 独有的问题,而是浮点数存储方式导致的结果。
使用 Number 方法处理数字
Number 对象提供了多个常用方法,用于判断、转换和验证数字。
const value = "42.5";
const number = Number(value);
console.log(Number.isNaN(number));
console.log(Number.isInteger(number));
console.log(Number.isFinite(number));预期输出
false
false
true常用方法包括:
| 方法 | 作用 |
|---|---|
Number.isNaN() |
判断值是否是真正的 NaN |
Number.isFinite() |
判断是否为有限数字 |
Number.isInteger() |
判断是否为整数 |
Number.isSafeInteger() |
判断是否在安全整数范围内 |
需要注意,Number.isNaN() 不会主动转换类型,而全局函数 isNaN() 会先尝试转换。
正确判断 NaN
NaN 表示“不是一个有效数字”的计算结果,例如数字转换失败或非法数学运算。
const invalidNumber = Number("hello");
console.log(invalidNumber);
console.log(Number.isNaN(invalidNumber));预期输出
NaN
true不要使用相等运算判断 NaN,因为 NaN 与任何值都不相等,包括自身:
NaN === NaN结果为 false。实际开发中应优先使用 Number.isNaN()。
处理舍入和精度误差
金额、比例等场景通常不能直接依赖浮点计算结果,需要显式控制精度。
const price = 19.999;
const rounded = Number(price.toFixed(2));
console.log(rounded);预期输出
20toFixed() 会返回字符串,因此需要根据业务需求决定是否转换回数字。
对于必须保证精确的小数计算场景,例如金融系统,通常会采用整数存储最小单位,或者使用专门的高精度计算库。
什么时候使用哪些处理方式
普通业务计算可以直接使用 Number,并通过舍入方法控制展示精度。涉及金额、计费或高精度统计时,应转换设计方案,例如使用“分”作为整数单位保存数据。
理解 Number 的限制,比记住某个修复技巧更重要。数字异常通常不是计算公式错误,而是数据表示方式和业务精度要求不匹配造成的。