Код AS3:
var radius:Number = Math.max(test_finish.x - test_start.x, test_finish.y - test_start.y) * .5;
test_gr.graphics.drawCircle(test_start.x + radius, test_start.y + radius, radius);
test_gr.graphics.endFill();
теорема пифагора ненужна, так как радиус вписанной в прямоугольник окружности - это половина ширины или высоты прямоугольника, и возведение в степень не ^, а Math.pow