Когда-то делал кастинг теней от простых объектов на плоскую поверхность (на пол, например). Делается это просто - обычная проекция вершин от источника света. В демке представлены обычные непрозрачные тени без блюра (с ними поинтереснее выглядит, но и процессор кушает). Высота источника света регулируется слайдером. Здесь нет оптимизации - рисуются даже грани, которые спрятаны от источника света и проекцию давать не могут. Но оптимизируется это достаточно просто - нахождением дот продукта (dot product)...