Этот конспект ещё находится в процессе редактуры: в тексте могут встречаться опечатки, неточности и локально не проработанные места. Если что-то нашли — сообщите, пожалуйста, автору (контакты на странице курса).
Определение 1Система из \(m\) линейных уравнений с \(n\) неизвестными (СЛУ) – это (матричное) уравнение вида \(A\overrightarrow {x} = \overrightarrow {b}\), где \(A \in \mathbb {R}^{m \times n}\) – известная матрица, матрица коэффициентов, \(\overrightarrow {b} \in \mathbb {R}^{m}\) – это известный столбец, столбец свободных членов, и \(\overrightarrow {x} \in \mathbb {R}^{n}\) – это неизвестный столбец, столбец переменных. Перепишем матричное уравнение \(A\overrightarrow {x} = \overrightarrow {b}\) покоординатно для наглядности: \[
A\overrightarrow {x} = \overrightarrow {b} \iff \begin{cases} a_{1,1}x_1 + \ldots + a_{1,n}x_n = b_1 \\ a_{2,1}x_1 + \ldots + a_{2,n}x_n = b_2 \\ \vdots \\ a_{m,1}x_1 + \ldots + a_{m,n}x_n = b_m \\ \end{cases}
\]
СЛУ называется совместной или разрешимой, если она имеет хотя бы одно решение.
СЛУ называется однородной (используется сокращение СЛОУ), если \(\overrightarrow {b} = \overrightarrow {0}\). Иначе система называется неоднородной.
2 СЛУ называются эквивалентными, если множества их решений совпадают.
1 Системы линейных уравнений с определителем, отличным от 0
Как решать СЛУ, в которой \(m=n\) и \(\operatorname {det}\left(A\right) \neq 0\), мы уже изучали. Напомним, что в этом случае
Т.е. у такой системы ровно одно решение, \(A^{-1} \overrightarrow {b}\). Самое сложное – найти \(A^{-1}\). 2 основных метода вычисления обратной матрицы: метод Крамера и метод Гаусса.
Далее мы будем рассматривать общий случай: матрица \(A\) не обязательно квадратная, или квадратная, но с произвольным определителем.
2 Системы линейных однородных уравнений (СЛОУ)
Имеем \(A \overrightarrow {x} = \overrightarrow {0}\). Заметим, что такая система всегда имеет т.н. тривиальное решение – нулевое решение \(\overrightarrow {x} = \overrightarrow {0} \in \mathbb {R}^{n}\). Попробуем найти нетривиальные решения: предполагаем, что \(\overrightarrow {x} \neq \overrightarrow {0}\). Напомним, что \(A\overrightarrow {x}\) можно рассматривать как линейную комбинацию столбцов \(A\) с коэфф. из \(\overrightarrow {x}\):
Следовательно утверждение \(A \overrightarrow {x} = \overrightarrow {0}\) равносильно линейной зависимости столбцов \(A\), а \(\overrightarrow {x}\) – это коэффициенты этой зависимости, если она есть.
ExampleПример (Задача 18.1(11))
Выписать матрицу коэффициентов данной системы линейных однородных уравнений. Решить систему:
Заметим, что элементарные преобразования строк матрицы \(A\) не меняют множества решений системы (подумайте, почему). Элементарные преобразования строк \(A\):
Мы привели матрицу к упрощенному (каноническому) виду, а именно:
это матрица ступенчатого вида;
ведущий элемент в каждой строке равен \(1\), и он является единственным ненулевым элементом своего столбца.
Т.е. матрица упрощенного вида – это матрица, которая (возможно, после перестановки местами некоторых столбцов, т.е. после перенумерации переменных) имеет вид
Переменные \(x_4 =: h_1, \; x_5 =: h_2\) можно взять в качестве свободных переменных. Тогда \(x_1, x_2, x_3\) будут главными (зависимыми) переменными, причем
В общем случае в качестве зависимых переменных можно брать переменные, соответствующие номерам столбцов, в которых стоят ведущие элементы строк. Оставшиеся переменные можно брать в качестве свободных.
AnswerОтвет
Произвольное решение имеет вид \[
\begin{bmatrix} -\frac{1}{2}h_1 \\ -\frac{1}{2}h_1 - h_2 \\ -h_2 \\ h_1 \\ h_2 \end{bmatrix},
\] где \(h_1, h_2 \in \mathbb {R}\) – произвольные.
Заметим, что в предыдущем примере произвольное решение системы имеет вид
Теорема 1 Множество решений произвольной СЛОУ с \(n\) неизвестными является подпространством в пространстве \(\mathbb {R}^{n}\).
Действительно, если \(\overrightarrow {x}_0, \overrightarrow {x_1}\) – 2 решения СЛОУ, то несложно проверить, что \(\overrightarrow {x}_0 + \overrightarrow {x_1}\) и \(\lambda \overrightarrow {x}_0\) (\(\lambda \in \mathbb {R}\) – произв.) также будут решениями.
Определение 2 Базис в пространстве решений СЛОУ называется фундаментальной системой решений (ФСР).
Матрица, полученная выписыванием ФСР в столбцы, называется фундаментальной матрицей системы.
Ведущие элементы строк стоят в 1 и 4 столбцах, т.е. \(x_2 = h_1\), \(x_3 = h_2\) можно взять в качестве свободных переменных. \(x_1\), \(x_4\) – это зависимые переменные:
где \(\left\langle \cdot , \cdot \right\rangle\) – стандартное скалярное произведение в \(\mathbb {R}^{n}\). Таким образом, решение СЛОУ \(A \overrightarrow {x} = \overrightarrow {0}\) эквивалентно с геометрической точки зрения поиску вектора, ортогонального всем \(n\)-мерным строкам матрицы \(A\). Отсюда вытекает следующая теорема:
Теорема 2 Размерность пространства решений СЛОУ равна \(n - \operatorname {rk}\left(A\right)\).
Из этого сразу вытекает, что размерность любой фундаментальной матрицы системы должна быть равна \(n \times (n - \operatorname {rk}\left(A\right))\). Однако в каком случае произвольная матрица \(\Phi \in \mathbb {R}^{n \times (n - \operatorname {rk}\left(A\right))}\) будет фундаментальной матрицей системы \(A \overrightarrow {x} = \overrightarrow {0}\)?
ExampleПример 3
Пусть дана СЛОУ \(A \overrightarrow {x} = \overrightarrow {0}\), где \(A \in \mathbb {R}^{m \times n}\), причем \(r = \operatorname {rk}\left(A\right)\). Докажите, что матрица \(\Phi\) размерности \(n \times (n - \operatorname {rk}\left(A\right))\) является фундаментальной матрицей данной СЛОУ тогда и только тогда, когда выполнено два условия:
\(A \cdot \Phi = \overrightarrow {0}\);
\(\operatorname {rk}\left(\Phi \right) = n-r\).
SolutionРешение
Обозначим через \(V \subseteq \mathbb {R}^{n}\) пространство решений СЛОУ; мы знаем, что \(\dim V = n - r\).
(\(\Rightarrow\)) Пусть \(\Phi\) – фундаментальная матрица. Тогда ее столбцы \(\overrightarrow {\phi }_{\cdot 1}, \ldots , \overrightarrow {\phi }_{\cdot (n-r)}\) – базис \(V\). В частности, каждый столбец – решение: \(A \overrightarrow {\phi }_{\cdot j} = \overrightarrow {0}\), а это по столбцам и означает \(A \Phi = \overrightarrow {0}\). Кроме того, столбцы базиса линейно независимы, и их \(n-r\) штук, т.е. \(\operatorname {rk}\left(\Phi \right) = n - r\).
(\(\Leftarrow\)) Пусть выполнены оба условия. Из \(A\Phi = \overrightarrow {0}\) следует, что каждый столбец \(\Phi\) лежит в \(V\). Из \(\operatorname {rk}\left(\Phi \right) = n-r\) следует, что все \(n-r\) столбцов линейно независимы. Итого: \(n - r = \dim V\) линейно независимых векторов в пространстве \(V\) – это базис \(V\). Т.е. \(\Phi\) – фундаментальная матрица.
Учитывая пример выше, несложно показать, что если матрица \(A \in \mathbb {R}^{m \times n}\) ранга \(\operatorname {rk}\left(A\right) = r\) имеет (возможно, после перенумерации переменных) упрощенный вид
где \(I_r\) – единичная матрица порядка \(r\), \(C\) – некоторая произвольная матрица размерности \(r \times (n - r)\), то фундаментальной матрицей для нее будет матрица блочного вида
Найти хотя бы одну однородную систему линейных уравнений, для которой данная матрица является фундаментальной: \(A_{110}\). \(A_{110} = \left[\begin{smallmatrix} 3 & 1 \\ 2 & 1 \\ 1 & 0 \end{smallmatrix}\right]\).
SolutionРешение
Ранг пространства решений равен рангу фундаментальной матрицы, а он равен \(2\). Учитывая, что \(n=3\), получаем, что ранг матрицы СЛОУ должен быть равен \(1\).
По строкам у матрицы СЛОУ идет система \(n\)-мерных строк, ортогональных ФСР. Пусть \(\overrightarrow {\alpha } = \begin{bmatrix} \alpha_1 & \alpha_2 & \alpha_3 \end{bmatrix}\) – произвольная строка матрицы \(A\). Имеем
Получили СЛОУ на числа \(\alpha_1, \alpha_2, \alpha_3\). Ее ФСР и будет строками искомой матрицы. Решим ее. Приведем матрицу \(A_{110}^T\) эл. преобразованиями строк к упрощенному виду:
Зная одну фундаментальную матрицу \(\Phi\) некоторой СЛОУ (размерность \(\Phi\) равна \(n \times (n-r)\)), найти общий вид произвольной фундаментальной матрицы той же СЛОУ
SolutionРешение
Пусть \(\Phi '\) – еще одна фундаментальная матрица той же СЛОУ. Каждый ее столбец лежит в пространстве решений \(V\), а столбцы \(\Phi\) – базис \(V\). Значит, каждый столбец \(\overrightarrow {\phi }'_{\cdot j}\) – линейная комбинация столбцов \(\Phi\) с некоторыми коэффициентами \(\overrightarrow {b}_{\cdot j} \in \mathbb {R}^{n - r}\):
При этом матрица \(B\) обязана быть невырожденной: это в точности матрица перехода между двумя базисами пространства \(V\) (если бы ее столбцы были линейно зависимы, той же зависимостью были бы связаны и столбцы \(\Phi '\), что противоречит \(\operatorname {rk}\left(\Phi '\right) = n - r\)).
Обратно, для любой невырожденной \(B \in \mathbb {R}^{(n-r) \times (n-r)}\) матрица \(\Phi \cdot B\) фундаментальна: по критерию из примера выше достаточно заметить, что \(A (\Phi B) = (A\Phi ) B = \overrightarrow {0}\) и \(\operatorname {rk}\left(\Phi B\right) = n - r\) (умножение на невырожденную матрицу не меняет ранга).
Обратите внимание: умножать нужно справа на невырожденную матрицу порядка \(n - r\) (это замена базиса в пространстве решений). Умножение слева на невырожденную \(n \times n\) матрицу, вообще говоря, выводит столбцы из пространства решений.
Пусть \(A\) – матрица ранга \(r\), состоящая из \(n\) столбцов. Известно, что для матрицы \(B\) определено произведение \(AB = 0\). Оцените сверху \(\operatorname {rk}\left(B\right)\).
SolutionРешение
Равенство \(AB = 0\) означает, что каждый столбец \(\overrightarrow {b}_{\cdot j}\) матрицы \(B\) удовлетворяет \(A \overrightarrow {b}_{\cdot j} = \overrightarrow {0}\), т.е. лежит в пространстве решений \(V\) СЛОУ \(A \overrightarrow {x} = \overrightarrow {0}\). Размерность \(V\) равна \(n - r\), поэтому среди столбцов \(B\) не может быть больше, чем \(n-r\), линейно независимых: \[
\operatorname {rk}\left(B\right) \leq n - r
\] Граница достигается: в качестве \(B\) можно взять фундаментальную матрицу \(\Phi\) этой СЛОУ – тогда \(A\Phi = 0\) и \(\operatorname {rk}\left(\Phi \right) = n - r\).
AnswerОтвет
\(\operatorname {rk}\left(B\right) \leq n -r\), причем граница достигается.
ExampleПример 7
Докажите, что СЛОУ \(A\overrightarrow {x} = \overrightarrow {0}\) и \(B \overrightarrow {x} = \overrightarrow {0}\) эквивалентны тогда и только тогда, когда \[
\operatorname {rk}\left(\begin{bmatrix} A\\ B \end{bmatrix}\right) = \operatorname {rk}\left(A\right) = \operatorname {rk}\left(B\right)
\]
SolutionРешение
Пусть у обеих систем по \(n\) неизвестных. Обозначим через \(V_A, V_B\) пространства решений систем \(A\overrightarrow {x} = \overrightarrow {0}\) и \(B\overrightarrow {x} = \overrightarrow {0}\) соответственно. Ключевое наблюдение: решения системы с матрицей \(\left[\begin{smallmatrix} A \\ B \end{smallmatrix}\right]\) (уравнения обеих систем, собранные вместе) – это в точности векторы, являющиеся решениями обеих систем сразу, т.е. пространство решений объединенной системы равно \(V_A \cap V_B\). По теореме о размерности пространства решений
\[
\dim V_A = n - \operatorname {rk}\left(A\right), \qquad \dim V_B = n - \operatorname {rk}\left(B\right), \qquad \dim \left(V_A \cap V_B\right) = n - \operatorname {rk}\left(\left[\begin{smallmatrix} A \\ B \end{smallmatrix}\right]\right)
\]
(\(\Rightarrow\)) Если системы эквивалентны, то \(V_A = V_B\), и тогда \(V_A \cap V_B = V_A = V_B\). Переходя к размерностям и пользуясь формулами выше, получаем \(\operatorname {rk}\left(\left[\begin{smallmatrix} A \\ B \end{smallmatrix}\right]\right) = \operatorname {rk}\left(A\right) = \operatorname {rk}\left(B\right)\).
(\(\Leftarrow\)) Пусть ранги равны. Заметим, что всегда \(V_A \cap V_B \subseteq V_A\). При этом из равенства рангов \(\dim \left(V_A \cap V_B\right) = \dim V_A\). Но если подпространство имеет ту же размерность, что и объемлющее пространство, то они совпадают: \(V_A \cap V_B = V_A\). Аналогично \(V_A \cap V_B = V_B\). Следовательно, \(V_A = V_B\), т.е. системы эквивалентны.
Пусть \(A \in \mathbb {R}^{m \times n}\), \(r = \operatorname {rk}\left(A\right)\); тогда \(\Phi \in \mathbb {R}^{n \times (n-r)}\). Обозначим через \(W \subseteq \mathbb {R}^{n}\) пространство решений системы \(\Phi^T \overrightarrow {y} = \overrightarrow {0}\) и через \(L\) – линейную оболочку транспонированных строк матрицы \(A\) (как столбцов в \(\mathbb {R}^{n}\)). Нужно доказать, что \(W = L\).
Во-первых, \(L \subseteq W\). Действительно, условие \(\Phi^T \overrightarrow {y} = \overrightarrow {0}\) означает, что \(\overrightarrow {y}\) ортогонален всем столбцам \(\Phi\), т.е. всем решениям исходной СЛОУ. Но каждая строка \(A\) ортогональна каждому решению (это в точности уравнения системы \(A\overrightarrow {x} = \overrightarrow {0}\)), а значит, ортогональна решениям и любая линейная комбинация строк.
Во-вторых, размерности совпадают. Ранг матрицы \(\Phi^T \in \mathbb {R}^{(n-r) \times n}\) равен \(n - r\), поэтому по теореме о размерности пространства решений
\[
\dim W = n - \operatorname {rk}\left(\Phi ^T\right) = n - (n - r) = r = \operatorname {rk}\left(A\right) = \dim L
\]
Подпространство \(L \subseteq W\) той же размерности, что и \(W\), совпадает с ним: \(L = W\).
3 Системы линейных уравнений общего вида
Выполнение \(A \overrightarrow {x} = \overrightarrow {b}\) равносильно тому, что вектор \(\overrightarrow {b}\) можно выразить линейной комбинацией столбцов \(A\) с коэфф. из \(\overrightarrow {x}\). Это равносильно тому, что \(\overrightarrow {b}\) лежит в пространстве, порожденном столбцами \(A\). Отсюда вытекает
Теорема 3 (Кронекер-Капелли) Система \(A \overrightarrow {x} = \overrightarrow {b}\) совместна тогда и только тогда, когда \(\operatorname {rk}\left(A\right) = \operatorname {rk}\left(A \mid \overrightarrow {b}\right)\).
Теорема 4 Зафиксируем некоторое решение \(\overrightarrow {x}_0\) совместной СЛУ \(A \overrightarrow {x} = \overrightarrow {b}\). Тогда всякое ее решение представляется в виде \(\overrightarrow {x}_0 + \overrightarrow {y}\), где \(\overrightarrow {y}\) – некоторое решение однородной системы \(A \overrightarrow {x} = \overrightarrow {0}\).
Обратно тоже верно: любая сумма вида \(\overrightarrow {x}_0 + \overrightarrow {y}\) – решение СЛУ \(A \overrightarrow {x} = \overrightarrow {b}\).
Структура множества решений неоднородной СЛУ
Множество решений \(A\vec{x}=\vec{b}\) — аффинный сдвиг \(\vec{x}_0+V\) пространства решений \(V\) однородной системы \(A\vec{x}=\vec{0}\) на произвольное частное решение \(\vec{x}_0\). Перетащите мышью, чтобы вращать сцену; ползунок двигает \(\vec{x}_0\) по плоскости \(\vec{x}_0+V\) (сама плоскость не меняется); кнопка справа схлопывает случай \(\vec{b}\to\vec{0}\).
ExampleПример (Задача 19.6(22))
Составить систему линейных уравнений по заданной расширенной матрице. Решить систему или установить ее несовместность. \(\left[A_{513} \mid \overrightarrow {c}_{62}\right]\). \(A_{513} = \left[\begin{smallmatrix} -1 & -5 & -4 & -3 \\ 2 & -1 & 2 & -1 \\ 5 & 3 & 8 & 1 \\ \end{smallmatrix}\right], \quad \overrightarrow {c}_{62} = \left[\begin{smallmatrix} -5\\ -2\\ 1\\ \end{smallmatrix}\right]\).
Как решить неоднородную СЛУ? Заметим, что элементарные преобразования строк расширенной матрицы не меняют множества решений (подумайте, почему). Т.е. после элементарных преобразований строк мы приходим к эквивалентной системе линейных уравнений. Приведем расширенную матрицу к упрощенному виду:
Заметим, что через первые 2 столбца матрицы \(A'_{513}\) можно выразить столбец \(\overrightarrow {c}'_{62}\)1. Таким образом, \(\overrightarrow {c}'_{62}\) лежит в линейной оболочке столбцов матрицы \(A'_{513}\), а значит столбцовый ранг \(A'_{513}\) и \(\left[A'_{513} \mid \overrightarrow {c}'_{62}\right]\) совпадает. Следовательно, система \(A'_{513} \overrightarrow {x} = \overrightarrow {c}'_{62}\) совместна. Значит и исходная система совместна.
Решения будем искать в 2 этапа. Сначала необходимо найти решения СЛОУ \(A'_{513} \overrightarrow {x} = \overrightarrow {0}\). Фундаментальная матрица решений:
Далее необходимо найти хотя бы одно частное решение неоднородной системы \(A'_{513} \overrightarrow {x} = \overrightarrow {c}'_{62}\). Заметим, что в случае, когда \(A'_{513}\) в упрощенной форме (как у нас), в качестве \(\overrightarrow {x}_0\) можно взять вектор \(\overrightarrow {c}'_{62}\), дописав снизу такое количество нулей, чтобы в итоге получился \(n\)-мерный вектор. В нашем случае размерность \(\overrightarrow {c}'_{62}\) равна \(3\), а размерность \(\overrightarrow {x}\) должна быть \(4\). Имеем
Вектор \(\overrightarrow {c}'_{76}\) не выразить через столбцы \(A'_{581}\), т.к. у \(\overrightarrow {c}'_{76}\) ненулевая 3-я координата. Следовательно, \(\operatorname {rk}\left(A'_{581}\right) \neq \operatorname {rk}\left(A'_{581} \mid \overrightarrow {c}'_{76} \right)\).
AnswerОтвет
Решений нет.
Теорема 5 (Фредгольм) Система \(A \overrightarrow {x} = \overrightarrow {b}\), \(A \in \mathbb {R}^{m \times n}\) разрешима тогда и только тогда, когда любой вектор \(\overrightarrow {y}_0\) из \(\mathbb {R}^{m}\), ортогональный столбцам \(A\), будет ортогонален и \(\overrightarrow {b}\). Иначе последнее условие можно сформулировать так: \[
A^T \overrightarrow {y}_0 = \overrightarrow {0} \quad \; \Rightarrow \; \quad \overrightarrow {b}^T \overrightarrow {y}_0 = 0
\]
ExampleПример 11
Доказать.
SolutionРешение
(\(\Rightarrow\)) Пусть система разрешима, т.е. \(\overrightarrow {b} = A \overrightarrow {x}\) для некоторого \(\overrightarrow {x}\). Тогда для любого \(\overrightarrow {y}_0\) с \(A^T \overrightarrow {y}_0 = \overrightarrow {0}\) имеем
(\(\Leftarrow\)) Пусть любое решение системы \(A^T \overrightarrow {y} = \overrightarrow {0}\) удовлетворяет и уравнению \(\overrightarrow {b}^T \overrightarrow {y} = 0\). Это означает, что СЛОУ \(A^T \overrightarrow {y} = \overrightarrow {0}\) и \(\left[A \mid \overrightarrow {b}\right]^T \overrightarrow {y} = \overrightarrow {0}\) (та же система плюс уравнение \(\overrightarrow {b}^T \overrightarrow {y} = 0\)) эквивалентны: каждое решение первой является решением второй, а обратное включение очевидно. По критерию эквивалентности СЛОУ (пример из предыдущего параграфа) тогда
(транспонирование не меняет ранга). По теореме Кронекера-Капелли система \(A \overrightarrow {x} = \overrightarrow {b}\) совместна.
ExampleПример 12
Системы вида \(A \overrightarrow {x} = \overrightarrow {b}\) над полем \(\mathbb {R}\) совместны для любого столбца \(\overrightarrow {b}\) тогда и только тогда, когда строки матрицы \(A\) линейно независимы.
SolutionРешение
Пусть \(A \in \mathbb {R}^{m \times n}\).
(\(\Leftarrow\)) Пусть строки \(A\) линейно независимы, т.е. \(\operatorname {rk}\left(A\right) = m\). Тогда для любого \(\overrightarrow {b}\) имеем
\[
m = \operatorname {rk}\left(A\right) \leq \operatorname {rk}\left(A \mid \overrightarrow {b}\right) \leq m,
\]
(приписывание столбца не уменьшает ранг, а ранг матрицы из \(m\) строк не превосходит \(m\)). Т.е. \(\operatorname {rk}\left(A\right) = \operatorname {rk}\left(A \mid \overrightarrow {b}\right)\), и по теореме Кронекера-Капелли система совместна.
(\(\Rightarrow\)) Пусть строки \(A\) линейно зависимы, т.е. \(r = \operatorname {rk}\left(A\right) < m\). Тогда линейная оболочка столбцов \(A\) – подпространство в \(\mathbb {R}^{m}\) размерности \(r < m\), и найдется столбец \(\overrightarrow {b} \in \mathbb {R}^{m}\), не лежащий в ней (иначе оболочка совпадала бы со всем \(\mathbb {R}^{m}\)). Для такого \(\overrightarrow {b}\) имеем \(\operatorname {rk}\left(A \mid \overrightarrow {b}\right) = r + 1 \neq \operatorname {rk}\left(A\right)\), и по теореме Кронекера-Капелли система несовместна.
Сноски
Это было бы не так, если бы 3-я координата у \(\overrightarrow {c}'_{62}\) была бы ненулевая.↩︎