Ищете столкновения - находите столкновения. Нужна физика отскока - ищите физику отскока и про физические движки, как работают физические движки скачать бесплатно )
Выталкиванием занимается солвер (вроде не решаемая задача точно и в общем виде). Отскок по физике, законам сохранения импульса, энергии и момента импульса (даже когда энергия теряется на трение и разогрев), которые все лезут из 3-х з-нов Ньютона.
http://www.gamedev.ru/code/terms/PhysicsEngine
http://www.gamedev.ru/code/articles/?id=4706