Я имел ввиду не другие форматы, а другие энкодеры - конвертеры для получения FLV.
Попробуйте, например,
SUPER. Несмотря на претенциозное название, он действительно мощный и кроме того, free.
Стоило бы еще попробовать Adobe Media Encoder (из CS5) или Adobe Flash Video Encoder (из CS3), если есть.