как вариант

Код AS3:
public function sortChildrenByXY(container:DisplayObjectContainer):void
{
var i:int;
var propArr:Array = [];
var objArr:Array = [];
for (i = 0; i < container.numChildren; i++)
{
var obj:DisplayObject = container.getChildAt(i);
propArr.push(obj.x * obj.x + obj.y * obj.y);
objArr.push(obj);
}
var indxArr:Array = propArr.sort(Array.NUMERIC | Array.RETURNINDEXEDARRAY);
for (i = 0; i < indxArr.length; i++)
{
container.addChild(objArr[indxArr[i]]);
}
}