В "чистом" AS3 нет понятия "модальное окно".
Поэтому можно как то так:

Код AS3:
function mainWndActivateHandler(e:Event):void {
if ( settingsWnd ) {
e.preventDefault();
settingsWnd.activate();
}
}
Если вам необязательно именно NativeWindow, то есть также PopUpManager под флексом.