Геометрия

Если делать само тупо, то проверяешь что точка принадлежит прямой вектора, а теперь просто смотришь, что она лежит с той же стороны что и конец вектора относительно начала вектора.

Пусть (X, Y) - сама точка.
(X1, Y1) - точка начала вектора, (X2, Y2) - точка конца вектора, луч (X1, Y1) -> (X2, Y2).
Для начала проверим что точка лежит на прямой (X1, Y1) - (X2, Y2) :
A = Y1 - Y2;
B = X2 - X1;
C = - A * X1 - B * Y1;
if (A * X + B * Y + C != 0) то можно смело говорить что тока не лежит, иначе она лежит но не понятна на какой стороне луча.

Теперь мы точно знаем что точка лежит на прямой, дальше можно действовать многими способами,я пишу что приходит первое в голову.

Проверим для начала что точка уже может лежать в отрезке вектора:
if (X >= MIN(X1, X2)) && (X <= MAX(X1, X2)) && (Y >= MIN(Y1, Y2)) && (Y <= MAX(Y1, Y2)) - то мы точно говорим что лежит,иначе возможен ещё 1 случай =>

Теперь мы проверим на отдалённость конца вектора и самой точки от начала вектора:
if (DIST(X1, Y1, X, Y) >= DIST(X1, Y1, X2, Y2)) то мы точно говорим ответ да, иначе точно ответ нет.

Если в решение требуется некоторая точность, то просто везде добавить проверки на EPS.

 A = Y1 - Y2;
 B = X2 - X1;
 C = - A * X1 - B * Y1;
 if (A * X + B * Y + C != 0) return "YES"; else return "NO";
 if (X >= MIN(X1, X2)) && (X <= MAX(X1, X2)) && (Y >= MIN(Y1, Y2)) && (Y <= MAX(Y1, Y2)) return "YES";
 if (DIST(X1, Y1, X, Y) >= DIST(X1, Y1, X2, Y2)) return "YES";
 return "NO".

Вектора ....... Говорю же писал что в голову лезит!

Так да, и главное точность гораздо выше!