Там ошибка выскакивает уже при компиляции, т.е. Vector.<*> и Vector.<int> считаются абсолютно разными типами.
Можно сделать так
Код AS3:
static public function removeObjFromVector(obj:*, vec:*):Boolean
выглядит не красиво, ошибки будут находиться только во время выполнения, но зато такая функция работает и с любыми векторами и с массивами.