![]() |
trace(0.09 - 0.1) - это какой то баг?
Собственно говоря стандартный калькулятор в винде решает уравнение следующим образом: 0.09 - 0.1 = -0.01
Флеш плеер же добавляет какуют кашу. Кто нибудь, что нибудь слышал об этом? |
всё верно у меня посчитал. с небольшой погрешностью.
|
Ошибка округления, это нормально. Используйте toFixed для красивого отображения результата.
|
"стандартный калькулятор в винде" скорее всего работает в BCD, а флеш - с floating point.
|
в дополнение к предыдущему: float хранится в памяти приближённо с довольно большой точностью, но всё же приближённо. потому любое сравнение a == b лучше не делать флоатами. если интересует какая-то определённая точность, то можно округлять довольно смело.
|
| Часовой пояс GMT +4, время: 23:38. |
Copyright © 1999-2008 Flasher.ru. All rights reserved.
Работает на vBulletin®. Copyright ©2000 - 2026, Jelsoft Enterprises Ltd. Перевод: zCarot
Администрация сайта не несёт ответственности за любую предоставленную посетителями информацию. Подробнее см. Правила.