так и должно быть: rotationX/Y/Z это углы в собственной системе координат объекта, rotationX им же и остается для самого куба, но поскольку он сам повернут, то в родителе это выглядит иначе..
поворот относительно координат родителя можно реализовать за счет редактирования transform.matrix3D, типа такого

Код AS3:
public function rotateXY(angleX:Number, angleY:Number=0):void
{
var mtrx:Matrix3D = transform.matrix3D ;
var pos:Vector3D = mtrx.position;
//двигаем в начало координат
mtrx.appendTranslation( -pos.x, -pos.y, -pos.z);
//вращаем
mtrx.appendRotation(angleX, Vector3D.X_AXIS)
mtrx.appendRotation(angleY, Vector3D.Y_AXIS)
//двигаем назад
mtrx.appendTranslation( pos.x, pos.y, pos.z);
}