Форум Flasher.ru

Форум Flasher.ru (http://www.flasher.ru/forum/index.php)
-   ActionScript 3.0 (http://www.flasher.ru/forum/forumdisplay.php?f=83)
-   -   flash для мат. расчетов (http://www.flasher.ru/forum/showthread.php?t=171718)

Aquahawk 23.11.2011 15:45

Number это double. Да, float можно иногда использовать для экономии памяти(скорость почти такая-же на современных процах), но для таких вещей уже нужны нативные языки.

gloomyBrain 23.11.2011 15:50

Ну Number это не совсем double. Точнее сказать - немного урезанный double (до 53 бит). А float вроде должен скоро появиться (для 3D будет добавлен еще и float_4)

Aquahawk 23.11.2011 15:51

Огромное спасибо, упустил как-то этот момент в документации. Действительно 53 бита это не совсем 64 бита как double

Котяра 23.11.2011 15:52

А я вычислял 2000! на флэше)

GBee 23.11.2011 16:11

Цитата:

Сообщение от Котяра (Сообщение 1047782)
А я вычислял 2000! на флэше)

Уверены, что в полученном числе нет ошибок? :о))

Silicium 23.11.2011 20:36

Цитата:

У меня БПФ летает только так, вроде добился 30мс на вычисление.
Вот, как раз то что нужно. Еще про 2000! тоже норм ответ. Суть моей задачи как-раз сводится к многократной оптимизации некоторых данных некоторой функцией по методу мнк для минимизации R-фактора как раз для фурье-образов. 30 мс это для скольки точек?

i.o. 23.11.2011 21:26

Цитата:

Ну Number это не совсем double. Точнее сказать - немного урезанный double (до 53 бит)
Серьезно? Разве речь не про 52-битную мантиссу шла?

Добавлено через 7 минут
Глуми, не шути так :)
http://help.adobe.com/ru_RU/ActionSc...0204-7f88.html

gloomyBrain 23.11.2011 21:50

Окей, больше не буду. =) Но кстати судя по справке от адоба - все таки 53, хотя это и не так уж важно

i.o. 23.11.2011 22:49

Это обычный double - 11 бит под экспоненту, 52 бита под мантиссу и один под знак. Т.о. double может хранить точное целочисленное значение вплоть до 53 бит (52 + 1).
Впрочем, ребята на том форуме все правильно написали в комментариях.


Часовой пояс GMT +4, время: 18:09.

Copyright © 1999-2008 Flasher.ru. All rights reserved.
Работает на vBulletin®. Copyright ©2000 - 2026, Jelsoft Enterprises Ltd. Перевод: zCarot
Администрация сайта не несёт ответственности за любую предоставленную посетителями информацию. Подробнее см. Правила.