[catyoshi]

алгоритмы шифрования в порядке убывания наджености RSA, DSA, DIGEST-MD5, CRAM-MD5. RFC по этим видам шифрования полно в инете.

но лучше прикрутите к вашему серверу, если можно, поддержку протокола SSL и работайте поверх него. и не надо мучаться искать опенсорс для флеша или самомму заморачиваться с криптографией.