Flash + 3ds Max

[Division]

Всё просто.

То есть как можно определить нормаль для полигона?

Векторным произведением. Есть три точки треугольника v1,v2,v3. Нормаль будет равна (v2-v1)*(v3-v1). Её желательно нормализовать.

как понять, где у полигона лицевая сторона?

Есть вектор обзора v и нормаль n. Так нам нужно скалярное произведение v на n.
Если оно меньше нуля, значит угол между векторами больше 90 градусов и мы видим обратную сторону полигона.