установка цвета для текста на второй раз выставляет значение в uint
 

Видимо движок не понимает поэтому получается вот такое
first
[COLOR="rgb(255, 140, 0)"]second[/color]

Не понял.

К примеру в тексте сообщения есть два куска текста которым нужно установить цвет в данном примере one и two, так вот на one цвет установиться нормально, а именно СOLOR="DarkOrange", тогда как для two будет - COLOR="rgb(255, 140, 0)", визуально получиться, что one будет оранжевого цвета, а two просто обрамлен тегом

То о чем я говорю:
Some text one and some text [COLOR="rgb(255, 140, 0)"]two[/color]

Some text one and some text two

Добавлено через 10 секунд
Все нормально.

Встречается не на всех цветах, заметил пока на
"SandyBrown"
"DarkOrange"
"Magenta"
"YellowGreen"
Как это происходит видео - http://www.youtube.com/watch?v=a_ttiau8ikE !

PS стоит добавить - Snow Leopard 10.6.3/Safari 5

Попробуйте в другом браузере.

Opera 10.53:
Some text one and some text two // COLOR="#ff8c00"

Vmware Fusion - Windows XP SP2|IE 8:
Some text one and some text two // COLOR="darkorange"

Vmware Fusion - Safari 4:
Some text one and some text [COLOR="rgb(255, 140, 0)"]two[/color] // COLOR="rgb(255, 140, 0)"

Вывод:
Safari хуже всего обрабатывает, но нада заметить, что разные браузеры все таки по разному ведут себя и таже опера так же ставит не DarkOrange

Я посмотрел почему так может быть. Единственное место, где есть упоминание rgb() это в файле vbulletin_colorpicker.js. Если вызывать в нем метод switch_color_picker, то меняется режим вывода цвета. Однако у меня этот файл вообще не используется при загрузке страницы. Если сможете, то попробуйте найти его среди загружаемых файлов и если найдете, то попробуйте найти, где этот метод вызывается.

Хм не используется и не грузиться, однако заметил, что происходит это если после выбора цвета нажимать на "A", а не стрелочку для выбора если быть точнее то
Может посмотреть в css'ках этот ID ?

Вобще я посмотрел и дописал после слешей, как разные браузеры ведут себя при нажатии на vB_Editor_QR_color_out так вот во всех, режим вывода цвета меняется, в том же IE вместо DarkOrange пишется - darkorange, то есть срабатывает в любом случае смена режима вывода !

Запустил Chrome, и наткнулся на эту же проблему. Сегодня или завтра попробую разобраться.