PHP скрипт на сервере - это и есть "отдельная программа, которая будет запущена все время на сервере".
Если вы снимаете сервер как машину, то можете делать все что хотите, устанавливать и запускать нужное серверное ПО.
Относительно сокет соединений - советую начать со статей по Flash + Socket чатов
Вот тут есть инфа про Flash + Java, по Flash + PHP тоже найти можно думаю.