trace(0.09 - 0.1) - это какой то баг?

[voy22]

Собственно говоря стандартный калькулятор в винде решает уравнение следующим образом: 0.09 - 0.1 = -0.01
Флеш плеер же добавляет какуют кашу.
Кто нибудь, что нибудь слышал об этом?

[BlooDHounD]

всё верно у меня посчитал. с небольшой погрешностью.

[DarkLight]

Ошибка округления, это нормально. Используйте toFixed для красивого отображения результата.

[aQuestion]

"стандартный калькулятор в винде" скорее всего работает в BCD, а флеш - с floating point.

[kotsie]

в дополнение к предыдущему: float хранится в памяти приближённо с довольно большой точностью, но всё же приближённо. потому любое сравнение a == b лучше не делать флоатами. если интересует какая-то определённая точность, то можно округлять довольно смело.