Разобрался!
Действующая фишка - в приложении.
Просто сделал массив NxM matrix[n][m]

Код:
var cellsize=20;
createEmptyMovieClip("mc_mask",1);
var n_cols = 1+Math.floor(mc_pic._width/cellsize);
var n_rows = 1+Math.floor(mc_pic._height/cellsize);
var n_cells = 15; //кол-во квадратиков
for (i=0;i<=n_cells;i++) {
do { /*генерим случайный номер ячейки, и смотрим, есть там уже единица или пока нет. Если нет - можно туда пихнуть квадратик и 1 */
rnd_col = Math.floor(Math.random()*n_cols);
rnd_row = Math.floor(Math.random()*n_rows);
} while (matrix[rnd_col][rnd_row]);
matrix[rnd_col][rnd_row] = 1;
mc_mask.attachMovie("pixel","pix"+i,i); /* это берется клип из библиотеки - квадратик 1x1 */
mc_mask["pix"+i]._width=mc_mask["pix"+i]._height=cellsize;
mc_mask["pix"+i]._x = rnd_col*cellsize;
mc_mask["pix"+i]._y = rnd_row*cellsize;
}