сначала был такой же результат.
но копнул глубже и решил применять фильтр к новой переменой bitmapData - а потом ее уже присваивать

Код AS3:
var rect:Rectangle = new Rectangle(0, 0, event.displayObject3D.material.bitmap.width,
event.displayObject3D.material.bitmap.height);
var pt:Point = new Point(0, 0);
var arr:Array = [ 0.3, 0.6, 0.1, 0.0, 0.0,
0.3, 0.6, 0.1, 0.0, 0.0,
0.3, 0.6, 0.1, 0.0, 0.0,
0.0, 0.0, 0.0, 1.0, 0.0
];
var CMfilter:ColorMatrixFilter = new ColorMatrixFilter(arr);
var bitmapData:BitmapData = event.displayObject3D.material.bitmap;
bitmapData.applyFilter(bitmapData, rect, pt, CMfilter);
event.displayObject3D.material.bitmap = bitmapData;
и координаты в 0:0 - походу все таки заморочка в них была
Разобрался.
Осталось только теперь понять как вернуть обратно цветной цвет
фильтр с массивом 1, 1, 1, 1 - как писал в первом посте - Не помогает