[Мимоход]

Если я что-то в чем-то понимаю (что вряд ли) - битрейт тут не виноват. Единственное, что ты не упомянул - так это фреймрейт, и вот от него точно все может с'ехать с катушек...
Либо все-таки кодеки чем-то отличаются, я когда с ними сталкиваюсь - аж зубы чешутся, до того все криво...