В игрушку не играл, на вид вроде пошаговая - значит особых наворотов с передачей данных не нужно, протокол может быть сколь угодно простой. Обычно используют проверенные подходы вроде RPC или REST(ну или просто своя приблуда), формат - JSON, или его расширение по HTTP/S. Может быть WebSocket/Socket.IO - в силу универсальности часто используют. Хотя, может быть и родной бинарный формат Flash - AMF. Советую начать с
Fiddler, если им ничего не получится поймать - тогда можно попробовать
WireShark. Но практического смысла в разборе протокола особого нету, если интересует серверное решение. Обычно что проще и привычнее, то и используют: видел сервера на Ruby, C++, C#, Java, NodeJS, Neko(HaXe).