[nuToH]

Можно получить координаты проекции каждого вертекса треугольника на экран. Потом перевести в координатную систему flash'a и посмотреть, попадает ли курсор мыши в треугольник.

vec3 = viewProjMatrix * vertex3D

vec2.x = ( vec3.x + 1.0 ) / 2.0 * viewportWidth
vec2.y = ( 1.0 - vec3.y ) / 2.0 * viewportHeight