1.
Код:
mySWF = document.getElementById('flashHolder');
может быть недостаточно. Посмотрите, как нужно получать ссылку на объект во флешевой документации
(см. класс ExternalInterface) см. выше
2. В момент вызова
Код:
mySWF.swfSelFile('a');
флеш скорее всего ещё не успел подписаться (ExternalInterface.addCallback)