[olegpon3]

У вас есть вся информация достаточно точно описывающая фигуру. И т.к. по этой информации фигура и е положение однозначно определены, все площади вы можете аналитически посчитать.

Согласен, теоретически можно... Рисоваться пользователем будет линия, координаты которой привязаны к mouseX, mouseY. Но такой расчет мне кажется пока очень сложным, оставлю этот вариант запасным, пока попробую посчитать число пикселей.
update
Всем спасибо за подсказки, получилось.

var e:uint=0; 
brush.mask=bigMaskArrey[previousValue];					
var bd:BitmapData=new BitmapData(900,900,true,0);
bd.draw(brush);
for(var q:uint=0;q<900;q+=10)
{
	for(var w:uint=0;w<900;w+=10)
	{
		if(bd.getPixel32(w,q)!=0) e++;
	}
}

Убедился, что если объект закрыт маской и мы "передаем" его в BitmapData, то сумма его непрозрачных пикселей ограничивается площадью маски.