Когда ты устанавливаешь haxe, haxelib устанавливается автоматически.
Из FD|HD можно установить и haxe и openfl из Tools -> Install Software...
Для сборки openfl проекта, устанавливать nme не надо, чтобы openfl засетапился как надо достаточно сделать haxelib run openfl setup, или все то же самое можно прочитать на
сайте openfl