Клиент Flash: Классы Socket, XMLSocket.
Сервер Java: jSocket, GFS Server — open source socket server for Flash and Flex clients. Ну на самом деле сервер может быть написан хоть на чём, не обязательно java
.
Ну это так, для примера. Погуглите. Почитайте, что такое сокеты и зачем они нужны, и в сети полно реализаций для флеш и для серверной части. В том числе и на этом форуме не раз обсуждалось.