flash для мат. расчетов

[Aquahawk]

Number это double. Да, float можно иногда использовать для экономии памяти(скорость почти такая-же на современных процах), но для таких вещей уже нужны нативные языки.

[gloomyBrain]

Ну Number это не совсем double. Точнее сказать - немного урезанный double (до 53 бит). А float вроде должен скоро появиться (для 3D будет добавлен еще и float_4)

[Aquahawk]

Огромное спасибо, упустил как-то этот момент в документации. Действительно 53 бита это не совсем 64 бита как double

[Котяра]

А я вычислял 2000! на флэше)

[GBee]

Сообщение от Котяра

А я вычислял 2000! на флэше)

Уверены, что в полученном числе нет ошибок? :о))

[Silicium]

У меня БПФ летает только так, вроде добился 30мс на вычисление.

Вот, как раз то что нужно. Еще про 2000! тоже норм ответ. Суть моей задачи как-раз сводится к многократной оптимизации некоторых данных некоторой функцией по методу мнк для минимизации R-фактора как раз для фурье-образов. 30 мс это для скольки точек?

[i.o.]

Ну Number это не совсем double. Точнее сказать - немного урезанный double (до 53 бит)

Серьезно? Разве речь не про 52-битную мантиссу шла?

Добавлено через 7 минут
Глуми, не шути так
http://help.adobe.com/ru_RU/ActionSc...0204-7f88.html

[gloomyBrain]

Окей, больше не буду. =) Но кстати судя по справке от адоба - все таки 53, хотя это и не так уж важно

[i.o.]

Это обычный double - 11 бит под экспоненту, 52 бита под мантиссу и один под знак. Т.о. double может хранить точное целочисленное значение вплоть до 53 бит (52 + 1).
Впрочем, ребята на том форуме все правильно написали в комментариях.