как добавить разделитель "vRule" или просто символ "|" в "togglebuttonbar "

[alatar]

зачем что-то добавлять , нельзя ли поменять на public ?

Как вы себе это представляете? Приватные свойства нельзя переопределить в наследниках, тем более изменить их облаться видимости.

в методе "createChildren" непонятно где добавлять "new VRule" поскольку он переопределяется в нескольких класах (NavBar,Container,UIComponent).

Сначала делаете вызов super.createChildren, потом добавляете разделитель.
Только еще надо переписать resetNavItems(), дабы ошибок не возникало при переборе всех детей.

в каком классе находится "commitProperties немогу никак найти .

А какая вам разница? Этот метод переписывается во всей цепочке наследования. Первое его упоминание всегда находится в UIComponent, также как и createChildren, это методы обеспечивающие жизненный цикл компонента, вместе с measure и updateDisplayList.