[Vertax]

Не, во флеше маски определяются формой объекта. В данном случае для картинки (прозрачность не важна) форма - квадрат. Варианта по большому счету три:
1. Нарисовать маску во флеше.
2. (вариация первого) Трасировать картинку.
3. (Хардкорный) BitmapData и иже с ним.
Проще и лучше воспользоваться 1ым вариантом.

P.S. Какое отношение эта тема имеет к AS???