Хм.. давненько я в 3.0-мануал не заглядывал, оказывается его дополнили...
Попробуйте так:
В субформе:

Код:
mdm.Forms.MainForm.callFunction("giveMeString", "your string","");
В майнформе:

Код:
function giveMeString(param:String){
mdm.Dialogs.prompt("Yes! I have string " + param);
}
flash.external.External.addCallback( "giveMeString", this.giveMeString );