Вот тут прога.
Создается некая фигура с дырочкой - ее можно увидеть если снять галку.
Потом эта фигура применяется как маска ко всей картинке.
Но в маске дырка - значит под ней ничего не должно быть видно (так же как в тех местах, где маски нет совсем).
Но, как видите, все не так. Не понимаю, в чем тут дело.