onRollOver это событие, а не свойство, поэтому писать if (this.onRollOver) бесполезно

Код:
b.back.onEnterFrame = function () {
if (this.flag) {
trace ("Курсор в зоне");
this.nextFrame ();
} else {
this.prevFrame ();
}
};
b.back.onRollOver = function () {
this.flag = true;
};
b.back.onRollOut = function () {
this.flag = false;
};
b.back.onReleaseOutside = b.back.onRollOut;