надо почитать про вектора, матрицы, матричные уравнения, (в т.ч. про обратные матрицы), веркторную запись классических задач аналит.геометрии (проекция точки на отрезок, плоскость, расстояние между прямыми и др.) что-то еще в этом духе (я тоже за десять лет забыл, что там еще было
)