Я не мог определить с каким именно объектом хиттестит мышка, потому что вешаю функцию через цикл сразу на много объектов (с классами толком работать не умею).
Сейчас придумал ввести новую переменную, которая содержит текущий объект, который легко найти по i внутри hitTest - там уже нужный мне, а не 1-86, т.к. хиттестится с одним объектом одновременно. Вот измененная функция, если кому то потребуется похожая:

Код AS1/AS2:
function fillColor() {
for (i=1; i<87; i++) {
if (this['q'+i].hitTest(_root._xmouse, _root._ymouse, true) && numOfSq != 0) {
_root['c'+i].setRGB(color);
if ('q'+i != temp) {
numOfSq--;
}
trace (numOfSq);
temp = 'q'+i;
}
}
}