Здравствуйте.
К флеш гуру себя не отношу, но с ходу в голову приходит такой вариант решения:
1) выбираем какой алгоритм шифрования нравится (например RSA)
2) заходим на
RSA и узнаем как реализовать выбранный алгоритм в общем случае
3) по этой схеме шифруются сообщения от клиента к серверу (общение между клиентом и сервером можно организовать, например, через пост-запросы; способ, которым организовано общение, не имеет значения)
Некоторые алгоритмы шифрования уже реализованы
тут.