[-De-]

Для начала не увеличивайте радиус, а ищите минимальное расстояние до центра. Расстояние между точками знаете чему равно? Минимум знаете как искать? Вот этот минимум и будет вашим радиусом, без увеличений всяких.
Если надо много кругов, то можно сначала найти только внешние пикселы кляксы и искать расстояние только для них, но боюсь это уже слишком сложно =\