[Wolsh]

Чего тут искать? Флэш не вчера родился, и Вы не первый кому понадобилась маска.
Либо кеширование (и маски и таргета) в битмап, либо BlendMode.
Для второго надо маску и таргет поместить в общий контейнер, установить ему BlendMode.LAYER, а маске – BlendMode.ALPHA (или наоборот ERASE). Снижение производительности будет как при кешировании так и с блендами. Бленды более заморочные, имхо.