
1 jingniao 2017-03-15 19:33:50 +08:00 via Android 典型的浮点数问题 |
2 Reficul 2017-03-15 19:46:40 +08:00 via Android 0.1+0.2!=0.3 ,浮点数无解。只能想办法减少误差 |
3 0915240 2017-03-15 19:50:34 +08:00 |
6 mcfog 2017-03-15 20:48:32 +08:00 不用那么长,我也来个短的 0.58*100 |
7 Shura 2017-03-15 20:49:29 +08:00 via Android 建议楼主去学习一下计算机组成原理( |
8 SoloCompany 2017-03-15 21:56:43 +08:00 一大谜团 - 为啥楼主不用 append 也能编辑帖子? |
9 Mutoo 2017-03-15 22:00:51 +08:00 keyword: IEEE 754 浮点数计算 |
10 SoloCompany 2017-03-15 22:04:04 +08:00 https://developer.mozilla.org/en-US/docs/Web/Javascript/Reference/Global_Objects/Math/round#Decimal_rounding 然后你可以试一下 Math.round10(123+Math.floor(123*0.008*100)/100+10, -10) |
11 misaka19000 2017-03-15 22:10:23 +08:00 |
12 Quaintjade 2017-03-15 22:38:23 +08:00 @SoloCompany Mozilla 这个还只是一半,负数部分得自己写,因为 js 的 Math.Round()总是向正无穷大取整: If the fractional portion is exactly 0.5, the argument is rounded to the next integer in the direction of +∞ 比如 Math.round10(-1.005,-2)的结果 -1 而不是 -1.01 |
13 wly19960911 2017-03-15 22:47:06 +08:00 via Android @SoloCompany 我没记错的话,短时间内能编辑的, |
14 codelegant 2017-03-15 23:06:58 +08:00 via Android @0915240 这个网站,的确非常的有意思。 |
15 a87150 2017-03-15 23:09:27 +08:00 via Android 世界的错 |
16 zhuziyi 2017-03-16 00:00:41 +08:00  |