Рассмотрим л и ценное пространствоQ и линейное преобразование А этого
пространства.
Определение. Подпространство Q’ пространства Qназывается инвариантным относительно А, если для каждого вектора х из Q’образ A (x) лежит в Q’. Можно сформулировать это определение иначе; сказав, что Q’инвариантно, если А (Q’)есть подпространство в Q’.
Теорема 1: Матрица А преобразования А может быть разделена четыре клетки:
Клетки A1-A4 являются матрицами размеров r*r, r(n-r),(n-r)r,(n-r)(n-r) соответственно. Докажем, что клетка A3 нулевая, т. е. элементы aij матрицы А равны нулю для значений индексов j=1,…r и i=r+1…,n. Действительно, первые r столбцов матрицы А— координатные столбцы векторов A(e1)…A(er) Так как Q’-инвариантное подпространство, эти векторы лежат в Q’ и их компоненты a(i,j) по базисным векторам e(r+1)…en равны 0.
Легко видеть, что, и обратно, если в каком-нибудь базисе матрица линейного преобразования А имеет вид
то линейная оболочка вектора e1…er есть инвариантное подпространство. В самом деле, из вида матрицы следует, что для всех j= 1, . . . ,r. и потому образ линейной комбинации векторов является линейной комбинацией тех же векторов. Резюмируем сказанное.