[etc]

var file:String = 'testvideo.flv';
var fileCuted:String = file.substr(0, file.lastIndexOf('.'));
trace(fileCuted); //выведет: testvideo

Но точки может и не быть вообще, поэтому этот вариант нужно проверить отдельно.