Для этого существует необходимое и достаточное условие компланарности трех векторов в пространстве. Оно основано на понятии смешанного произведения векторов. Сформулируем его в виде теоремы.
Теорема.
Для компланарности трех векторов и трехмерного пространства необходимо и достаточно, чтобы их смешанное произведение равнялось нулю.
Доказательство.
Пусть , докажем что векторы и компланарны.
Так как , то векторы и перпендикулярны в силу необходимого и достаточного условия перпендикулярности двух векторов. С другой стороны, по определению векторного произведения вектор перпендикулярен и вектору и вектору . Следовательно, векторы и компланарны, так как перпендикулярны одному вектору .
Пусть теперь векторы и компланарны, докажем равенство нулю смешанного произведения .
Так как векторы и компланарны, то вектор перпендикулярен каждому из них, следовательно, скалярное произведение вектора на равно нулю, что означает равенство нулю смешанного произведения .
Итак, теорема полностью доказана.