Откинул все лишние и вот что получается.

Код:
...
4078
4079
>>>>4080
>>>>4081
...
А теперь заходите во внутрь клипа и уменьшайте ширину на 10 и запускайте снова. Трейс один и тот же до ширины 20, а вот при 10 пикселях картина меняется.

Код:
...
4086
4087
>>>>4088
>>>>4089
...
Это навело меня на мысль и я сделал размер 1 и по x поставил -1.

Код:
...
4094
4095
>>>>4096
>>>>4097
...
Такая же картина с отрицательными значениями.
Отсюда вывод, для hitTest с флагом, координаты имеют ограничение в 16 бит + 1 бит на знак.