Кеширование переменных

[expl]

инлайна нет...посмотрите в сторону haxe

Да, haXe в этом плане рулит - на AS3 иногда досада берёт - приходится в критических местах копипастить одно и тоже по 5 раз.

Но inline тоже имеет ограничения, например принципиально не получится заинлайнить метод, который перегружается в подклассах.

попробовать на нем написать статик класс для математики и скомпелить swc

Вызов функции из swc по-прежнему будет жрать ресурсы, по этой причине без мазы реализовывать на нём sqrt в стиле Quake и билдить в swc. На внутренних вызовах сэкономите - да.

Или макросы какие-нибудь?

Макросы в haXe тоже есть.

Но это haXe, а библиотеку вы ведь делаете для AS3 и вроде как не собираетесь её загонять в swc. Поэтому написание тестов производительности - и проверка какие подходы дают лучший результат - что тут ещё можно посоветовать.