[etc]

Попросите заказчика сдвинуть мышь на полпиксела.

И вообще, отмазка простая — система не даёт информации в дробных числах. И не может, собственно. Проще говоря — требуемое невозможно.

з. Ы. mouseX/mouseY могут быть не целыми.