[nuToH]

var perspectiveProjectionMatrix:Matrix3D = new Matrix3D();
var scaleX:Number = 2.0 / WIDTH; //super.stage.stageWidth
var scaleY:Number = -2.0 / HEIGHT; //super.stage.stageHeight
 
perspectiveProjectionMatrix.copyRawDataFrom(
	new <Number>[
	scaleX, 0.0, 0.0, 0.0,
	0.0, scaleY, 0.0, 0.0,
	0.0, 0.0, -1.0, 0.0,
	-1.0, 1.0, 0.0, 1.0
	]
);

переводит в 2D screen space

Добавлено через 2 минуты
для получения итоговой координаты вертекса надо perspectiveProjectionMatrix * modelViewMatrix * vertexCoord