Ааа, точно!
Извесный вопрос!
Маску нужно накладывать програмно
Это вставьте в код, где у вас комментарий

Код:
this.setMask(this._parent.mc_mask);
Те анимацию расползающегося прямоугольника
нужно сделать в клипе mc_mask
в клип Content положить инстанс и назвать его mc_mask
Для рамки тоже можно сделать програмную маску