Как-бы столкновение шаров определяется по формуле:

Код AS3:
public static function isRoundHitted(x0:Number, y0:Number, r0:Number, x1:Number, y1:Number, r1:Number):Boolean {
var dx:Number = x1 - x0;
var dy:Number = y1 - y0;
return dx * dx + dy * dy < (r0 + r1) * (r0 + r1);
}
Теорема Пифагора, 6-й класс, если не ошибаюсь
Да, и 3 шара ни кто не пытается рассматривать, обычно столкновения попарно обрабатывают.