Сколько ни старался, так и не понял, при чем тут маска с растушеванными краями? Нет и не было здесь такой маски. И она там сроду не нужна - обычная векторная (хм, а какая еще-то? прямоугольная?)))) маска для области, в которой виден "луч", и векторный "луч" с заливкой прозрачный-полупрозрачный-прозрачный, вот собственно и все что нужно. Если хочется более естественного, можно с блендами поиграться, но опять же только в 8 и выше версии.
http://flasher.ru/forum/showthread.php?t=87068