Дело состоит в проекции. Центр проекции(точка схода) задан в центре рабочей области, поэтому при разных позициях объекта на экране, проекция тоже будет разная. Пронаблюдать это можно, если подвигать объект во время вращения:

Код AS3:
import flash.display.MovieClip;
import flash.events.Event;
import flash.events.MouseEvent;
var speed = 1;
var test:MovieClip = new Test();
test.x = 50;
test.y = 50;
addChild(test);
test.addEventListener(Event.ENTER_FRAME, loop);
stage.addEventListener(MouseEvent.MOUSE_MOVE, mouseMoveHandler);
function loop(e:Event):void
{
test.rotationY += speed;//Поворачиваем объект
}
function mouseMoveHandler(e:MouseEvent):void
{
test.x = e.stageX;
test.y = e.stageY;
}
Однако точку схода можно менять:

Код AS1/AS2:
import flash.display.MovieClip;
import flash.events.Event;
import flash.events.MouseEvent;
var speed = 1;
var test:MovieClip = new Test();
test.x = 50;
test.y = 50;
addChild(test);
test.addEventListener(Event.ENTER_FRAME, loop);
stage.addEventListener(MouseEvent.MOUSE_MOVE, mouseMoveHandler);
function loop(e:Event):void
{
test.rotationY += speed;//Поворачиваем объект
}
function mouseMoveHandler(e:MouseEvent):void
{
test.x = e.stageX;
test.y = e.stageY;
test.parent.transform.perspectiveProjection.projectionCenter = new Point(test.x, test.y);
}