Ура! разобрался! не поверите где крылась разгадка
раньше все время использовал MD5 модуль от Адоба а тут от безысходности начал смотреть а зачем в APIConnection свой мд5 модуль и они оказались разными
Так что всем рекомендую кто столкнулся с моей проблемой просто поменять модуль MD5 на тот который поставляется в архиве c APIConnection.
Видимо решающая строка там это
Код AS3:
data = Utf8Encode(data);
которой нет в MD5 модуле от Адоба
Добавлено через 33 секунды
p.s. с русским текстом в итоге все хорошо