Что-то вроде этого?

Код AS3:
var b:BitmapData = new BitmapData(); //тут наша картинка
var v:Vector.<uint> = b.getVector(new Rectangle(0, 0, 100, 100));//получаем список пикселей из 1 квадрата
var avg:uint = this._getSumm(v) / v.length; // получаем средний цвет (складываем все цвета и делим на общее кол-во цветов), наверное это будет затратно по ресурсам
var length:uint = v.length;
for(var i:uint = 0; i < length; i++){
var color:uint = v[i];
color - avg
//а что дальше?
}
Может стоит посмотреть в сторону getColorBoundsRect?
Только как указать правильно значение цвета если фон там не чисто белый.