разобрался )
вдумчивое вкуривание википедии помогло:
http://ru.wikipedia.org/wiki/RSA
теперь как оказалось другая проблема.. на текущий момент есть баг, который на сайте проекта указан, и пока не пофиксен.
суть бага в том, что данные зашифровываются, при попытке расшифровки вылетает ошибка.
кому интересно -
http://code.google.com/p/as3crypto/i...etail?id=18#c0
т.к. похоже, на сегодня это единственная реализация RSA для AS3, то ... дело печально =(