Так вроде работает

Код AS3:
import fl.transitions.Tween;
import fl.transitions.easing.None;
var mask_cont = new Sprite();
mask_cont.x = 0;
mask_cont.y = 0;
mask_cont.graphics.beginFill(0x000000);
mask_cont.graphics.drawRect(0,0,500,200);
mask_cont.graphics.endFill();
addChild(mask_cont);
var masker = new Sprite();
masker.graphics.beginFill(0x000000);
masker.graphics.drawRect(0,0,50,50);
masker.graphics.endFill();
masker.x = 20;
masker.y = 100;
mask_cont.mask = masker;
mask_cont.addChild(masker);
var mask_tween:Tween = new Tween(masker,"height",None.easeNone,masker.height,300,5,true);