Хм интересное поведение. Компилятор конечно гарантировать не может, но мы-то с вами знаем, что такие члены есть, и закомментированные работающие трейсы - тому подтверждение.
А задачу наверняка можно решить и так:

Код AS3:
var displayXML:Function = (Math.random() < 0.5) ? XMLElement.toString : XMLElement.toXMLString;
displayXML();

Код AS3:
(Math.random() < 0.5) ? XMLElement.toString() : XMLElement.toXMLString();