V...вектора
P...точки
Вычисляешь два вектора V1(x,y,z)=P2-P1
V2(x,y,z)=P3-P1
Векторно перемножаешь V=V1*V2;
и нормализуешь полученный вектор если нужно.
Вот твоя нормаль.
Кстати школьных знаний для этого достаточно, ты в каком классе? ;^)
- не обижайся, Купи в Библио-Глобусе, какого-нибудь Борескова "КГ", а лучше всего найди Д.Роджерса "Алгоритмические основы машинной графики". - От туда все и сдирают свои книжки про КГ.