http://en.wikipedia.org/wiki/Shortest_path_problem
А еще ключевые слова "алгоритм поиска пути", "алгоритм Дийкстры".
Если в двух словах - выглядит так, как будто из начальной и конечной точки выливаешь постепенно чернила, регистрируя "степень залитости", где встретятся - там и самый короткий путь. Но в любом случае, считать лучше не в флеше, особенно если карты большие, а препядствия сложные (не дай бог еще и цена передвижения по разным гексагонам разная - вообще повесится). Т.е. написать на С, например, а флешке просто выдавать результат, гораздо быстрее работать будет.