JavaScript / TypeScript / 系统课时

数字处理与精度问题

数字处理与精度问题

JavaScript 中的数字处理经常隐藏着精度陷阱。本篇将学习 Number 提供的常用方法、NaN 判断方式和浮点数舍入规则,帮助你在金额计算、统计处理和数据转换场景中避免常见错误。

学习目标

  • 理解 JavaScript Number 类型的表示方式和精度限制
  • 掌握 NaN 判断、数字转换和舍入处理方法
  • 能够识别并处理浮点数计算中的误差问题

理解 JavaScript 数字模型

JavaScript 的所有普通数字都使用 IEEE 754 双精度浮点数表示,包括整数和小数。这种设计让语言实现简单,但也带来了安全整数范围和小数精度限制。

例如,部分十进制小数无法被二进制精确表示,因此计算结果可能出现额外的小数位:

js
const result = 0.1 + 0.2;

console.log(result);
console.log(result === 0.3);

预期输出

text
0.30000000000000004
false

这种现象不是 JavaScript 独有的问题,而是浮点数存储方式导致的结果。

使用 Number 方法处理数字

Number 对象提供了多个常用方法,用于判断、转换和验证数字。

js
const value = "42.5";

const number = Number(value);

console.log(Number.isNaN(number));
console.log(Number.isInteger(number));
console.log(Number.isFinite(number));

预期输出

text
false
false
true

常用方法包括:

方法 作用
Number.isNaN() 判断值是否是真正的 NaN
Number.isFinite() 判断是否为有限数字
Number.isInteger() 判断是否为整数
Number.isSafeInteger() 判断是否在安全整数范围内

需要注意,Number.isNaN() 不会主动转换类型,而全局函数 isNaN() 会先尝试转换。

正确判断 NaN

NaN 表示“不是一个有效数字”的计算结果,例如数字转换失败或非法数学运算。

js
const invalidNumber = Number("hello");

console.log(invalidNumber);
console.log(Number.isNaN(invalidNumber));

预期输出

text
NaN
true

不要使用相等运算判断 NaN,因为 NaN 与任何值都不相等,包括自身:

js
NaN === NaN

结果为 false。实际开发中应优先使用 Number.isNaN()。

处理舍入和精度误差

金额、比例等场景通常不能直接依赖浮点计算结果,需要显式控制精度。

js
const price = 19.999;

const rounded = Number(price.toFixed(2));

console.log(rounded);

预期输出

text
20

toFixed() 会返回字符串,因此需要根据业务需求决定是否转换回数字。

对于必须保证精确的小数计算场景,例如金融系统,通常会采用整数存储最小单位,或者使用专门的高精度计算库。

什么时候使用哪些处理方式

普通业务计算可以直接使用 Number,并通过舍入方法控制展示精度。涉及金额、计费或高精度统计时,应转换设计方案,例如使用“分”作为整数单位保存数据。

理解 Number 的限制,比记住某个修复技巧更重要。数字异常通常不是计算公式错误,而是数据表示方式和业务精度要求不匹配造成的。

按自己的节奏,确认真正理解。

目录与阅读设置

阅读设置

17

记录一个想法

数字处理与精度问题

0 / 10000 · 笔记保存到账号。未提交的修改会在关闭、离开或刷新后丢失。

登录哪都通