[선형대수] 선형조합

선형조합

선형결합(Linear Combination)

열벡터와 행벡터의 곱에 의한 행렬 곱의 표현

$m \times n$ 행렬 $A$와 $n \times p$ 행령 B의 곱은 $A$의 열벡터(column vector) $a_i$와 $B$의 행백터(row vector) $b_j^T$ 의 곱으로 다음과 같이 표현 할 수 있다.

\[AB = a_ab_1^T + a_2b_2^T + \dots + a_nb_n^T\]

여기서 행렬 A와 B는 다음과 같이 각각 열벡터와 행벡터로 분할 하여 표현한 것이다.

\[A = \begin{bmatrix} a_1 & a_2 & \dots & a_n \end{bmatrix} , \begin{bmatrix} b_1^T \\ b_2^T \\ \vdots\\ b_n^T \end{bmatrix}\]

행렬을 구조적으로 보기

행렬을 구조적으로 바라보는 가장 효과적인 방법은 다음과 같다.

행렬은 열벡터(column vector)의 리스트 이다.

\[A = \begin{bmatrix} a_{11} & a_{12} & \dots & a_{1n}\\ a_{11} & a_{12} & & a_{1n}\\ \vdots & \vdots & & \vdots\\ \vdots & \vdots & \vdots & \vdots\\ a_{m1} & a_{m2} & \dots & a_{mn} & \end{bmatrix} = \begin{bmatrix} v_1 & v_2 & \dots & v_n \end{bmatrix}\]

여기서 $v_i$는 행렬 $A$의 $i$-번째 열벡터이다. 특히, 각 열벡터는 $m$-벡터이기 때문에, $m \times n$ 행렬은 $m$-(차원)벡터가 $n$개 있다고 해석하면 된다.

행렬@벡터 연산을 구조적으로 보기

이제, Ax는 다음과 같이 구조적으로 볼 수 있다.

$Ax$는 행렬 $A$가 가지고 있는 열벡터의 선형결합이다.

\[\begin{aligned} A \mathbf{x}=\left[\begin{array}{cccc} a_{11} & a_{12} & \cdots & a_{1 n} \\ a_{21} & a_{22} & \cdots & a_{2 n} \\ \vdots & \vdots & & \vdots \\ \vdots & \vdots & & \vdots \\ a_{m 1} & a_{m 2} & \cdots & a_{m n} \end{array}\right]\left[\begin{array}{c} x_{1} \\ x_{2} \\ \vdots \\ x_{n} \end{array}\right] &=\left[\begin{array}{cccc} \mathbf{a}_{1} & \mathbf{a}_{2} & \cdots & \mathbf{a}_{n} \end{array}\right] \left[\begin{array}{c} x_{1} \\ x_{2} \\ \vdots \\ x_{n} \end{array}\right]\\ &=x_{1} \mathbf{a}_{1}+x_{2} \mathbf{a}_{2}+\cdots+x_{n} \mathbf{a}_{n} \end{aligned}\]

$x_1a_1 + x_2a_2 + \dots + x_na_n$ 을 자세히 살펴보면 다음과 같다. $x_1$가중치와 $a_1$ 열벡터를 곱한다. 이말은 스칼라배 곱하기 벡터와 같은 말이다. 즉, 선형대수에서는 이처럼 벡터들(열벡터)에 대한 가중치 합을 특히 선형결합(Linear Combination)이라고 부른다.

선형결합(Linear Combination)

\[\left[\begin{array}{cccc} a_{11} & a_{12} & \cdots & a_{1 n} \\ a_{21} & a_{22} & \cdots & a_{2 n} \\ \vdots & \vdots & & \vdots \\ \vdots & \vdots & & \vdots \\ a_{m 1} & a_{m 2} & \cdots & a_{m n} \end{array}\right]\left[\begin{array}{c} x_{1} \\ x_{2} \\ \vdots \\ x_{n} \end{array}\right]=x_{1}\left[\begin{array}{c} a_{11} \\ a_{21} \\ \vdots \\ \vdots \\ a_{m 1} \end{array}\right]+\dots +x_{n}\left[\begin{array}{c} a_{1 n} \\ a_{2 n} \\ \vdots \\ \vdots \\ a_{m n} \end{array}\right]\]

$Ax$의 결과는 행렬 $A$가 가지고 있는 열벡터의 선형 결합으로만 한계가 지어진다.

즉, $Ax$의 값이 아무리 복잡하더라도 가중치 합(weighted sum)에 의해 정해진다.

선형 시스템 Ax=b를 선형결합 관점에서 바라보기

예를 들어, 다음 시스템을 푼다고 가정하자.

\[\left[\begin{array}{rrr} -1 & 3 & 2 \\ 1 & 2 & -3 \\ 2 & 1 & -2 \end{array}\right]\left[\begin{array}{l} x_{1} \\ x_{2} \\ x_{3} \end{array}\right]=\left[\begin{array}{r} 1 \\ -9 \\ -3 \end{array}\right]\]

(좌항) 선형 조합으로 해석한 Ax

\[x_{1}\left[\begin{array}{r} -1 \\ 1 \\ 2 \end{array}\right]+x_{2}\left[\begin{array}{l} 3 \\ 2 \\ 1 \end{array}\right]+x_{3}\left[\begin{array}{r} 2 \\ -3 \\ -2 \end{array}\right]x_{1}\left[\begin{array}{r} -1 \\ 1 \\ 2 \end{array}\right]+x_{2}\left[\begin{array}{l} 3 \\ 2 \\ 1 \end{array}\right]+x_{3}\left[\begin{array}{r} 2 \\ -3 \\ -2 \end{array}\right]\]

아무리 복잡하게 적어도 A가 갖고 있는 열벡터를 조합해서 만들어 진 값들이다.

(우항) b

\[\left[\begin{array}{r} 1 \\ -9 \\ -3 \end{array}\right]\]

그렇지만, 우항은 우리가 원하는 값이 이다. 위 선형시스템이 성립하기 위해서는 가중치의 합(좌항)으로 우항을 만들어 내야한다. 만들어 내지 못하면 불능인 것이다.

정리

행렬 $A$의 가중치 합으로 선형조합 할 때 벡터 $b$를 만들 수 있는 가중치 조합이 존재 한다면, 선형 시스템 $Ax=n$의 해는 존재한다. 그 해는 가중치 $x_i$ 들로 구성된 $x$이다.

예제#1

\[\left[\begin{array}{rrr} -1 & 3 & 2 \\ 1 & 2 & -3 \\ 2 & 1 & -2 \end{array}\right]\left[\begin{array}{l} x_{1} \\ x_{2} \\ x_{3} \end{array}\right]=\left[\begin{array}{r} 1 \\ -9 \\ -3 \end{array}\right]\]

위 선형시스템의 문제의 해(solution)은 $\mathbf{x}=\left[\begin{array}{r}2 \ -1 \ 3\end{array}\right]$ 이다. 선형 조합을 통해 확인해보면 다음과 같다.

(좌항) 선형조합으로 해석한 Ax

(2) $\left[\begin{array}{r}-1 \ 1 \ 2\end{array}\right]+(-1)\left[\begin{array}{l}3 \ 2 \ 1\end{array}\right]+(3)\left[\begin{array}{r}2 \ -3 \ -2\end{array}\right]$

(우항) b

$\left[\begin{array}{r}1 \ -9 \ -3\end{array}\right]$

즉, 주어진 행렬 $A$의 열벡터들을 좌항으로 조합(2, -1, 3) 했을 때, $b$라는 벡터를 만들어 낼 수 있다. 즉, 조합 수(=가중치 조합)를 만들어 낸 것이다.

Column Space(열공간)

행렬 A의 열벡터들에 대한 가능한 모든 선형결합(조합)의 결과를 모다 집합으로 구성 할 수 있을 것이다. 이들의 집합을 column space(열공간)이라고 하고 다음과 같이 표기한다.

\[col(A)\]

Consistent Linear System

선형 시스템 Ax=b가 해를 가지면(consistent), 다음을 만족한다.

\[\mathbf{b} \in \operatorname{col}(A)\]

Inconsistent Linear System

선형 시스템 Ax=b가 해가 없으면(inconsistent), 다음을 만족한다.

\[\mathbf{b} \notin \operatorname{col}(A)\]

예제#1

아래의 행렬 A의 $col(A)$는 3-차원 공간이다.

\[A=\left[\begin{array}{rrr} -1 & 3 & 2 \\ 1 & 2 & -3 \\ 2 & 1 & -2 \end{array}\right]\]

따라서, 어떤 3-벡터 $b$를 이용해 선형시스템 $Ax=b$를 구성한다고 하더라도, 해당 선형시스템의 해는 존재한다.

예제#2

아래의 행렬 A의 $col(A)$는 xy-평면이다.

\[A=\left[\begin{array}{rrr} -1 & 3 & 2 \\ 1 & 2 & -3 \\ 0 & 0 & 0 \end{array}\right]\]

따라서, $xy$-평면 상의 3-벡터 $b$를 이용해 선형시스템 $Ax=b$를 구성하면, 해당 선형시스템의 해는 존재한다.

그러나, $xy$-평면을 벗어난 3-벡터 $b$를 이용해 선형시스템 $Ax=b$를 구성하면, 해당 선형시스템의 해는 존재하지 않는다.