Как выяснилось, вконтакте действительно используется алхимия и JPEG кодируется в алхимии.
Вот прямо по той ссылке, что вы дали, там в конце обсуждения есть SWC с уже готовым енкодером. Ну и посмотрите еще сюда, как SWC подключить и какие API у нее должны быть:
http://labs.adobe.com/wiki/index.php...etting_Started