[rainbowrussia]

Чистая математика, к флешу не имеющая прямого отношения. Для начала нужно определить все множество фигур, которое нужно распознавать. Допустим на выходе мы имеем массив координат, через которые проходит "каракуля".
1) определяем минимальный прямоугольник, в который попадают все точки
2) если ширина прямоугольника менее, например, 10% от высоты - линия вертикальная по центру прямоугольника
3) если высота менее 10% ширины - горизонтальная
4) круг можно попробовать определить посчитав отклонение точек от идеального круга с центром находящимся в центре прямоугольника
и тд.

Другой вариант, более интересный. Рассматриваем не точки, а отрезки. Строим перпендикуляры к ним, ищем точки пересечения перпендикуляров. Если они далеко за пределами экрана или отсутствуют - то это прямая, если перпендикуляры пересекаются в некоторой ограниченной области - то центр этой области есть центр круга либо дуги. Несколько предполагаемых центров - то это буква "S".

Третий вариант - обрабатывать не отрезки, а векторы, ими образованные. Тут тоже можно что-то придумать обрабатывая их произведения и прикидывая их тренд - "туда-сюда" - прямая, тенденция к увеличению/уменьшению - дуга/круг.

Вариант крайний - нейронные сети, в этот вариант я не верю, хотя имеет право на существование.

В общем к флешу это все мало относится, раз не стоит задача рисования.

Удачи, задача интересная.

upd. Начните с Яндекса, с запроса "распознавание геометрических фигур".