[alexcon314]

DLL

// сделано по шаблонному проекту в MS VC++ 2003
#include "stdafx.h"
#include <stdio.h>
#include <windows.h>

BOOL APIENTRY DllMain( HANDLE hModule, 
                       DWORD  ul_reason_for_call, 
                       LPVOID lpReserved
					 )
{
    return TRUE;
}

extern "C" __declspec(dllexport) int Test(void)
{
	return 25;
}

флэш

var myDLL = new mdm.DLL("sampledll.dll");
mdm.prompt(myDLL.call("integer", "Test"));
myDLL.clear();
myDLL.close();

выводит 25.
проверить в флексе и AS3 не могу, но думаю что ошибиться в таком простом примере очень трудно.
обратите внимание на строку
mdm.prompt(myDLL.call("integer", "Test")); попробуйте в своем примере записать в скобках call 'integer', а не 'int'