03_Determinant

1. 행렬식

1.1. 행렬식의 정의

• 행렬식 (Determinant)

  • 정방행렬 $A$에 하나의 스칼라 값을 대응시키는 함수

  • $Det(A)$ 또는 $|A|$로 표기한다.

  • 행렬 $A$가 역행렬을 가지는 조건(invertible)을 정한다.

(1) 차수별 정의

• Determinant of a 1 by 1 matrix

  • $Det(A)=a_{11}$

• Determinant of a 2 by 2 matrix

  • 2×2 행렬 $A=\left(\begin{array}{cc}a& b\\ c& d\end{array}\right)$에 대하여, $|A|=\left|\begin{array}{cc}a& b\\ c& d\end{array}\right|=ad-bc$이다.

  • $Det(A)=a_{11}{a}_{22}-a_{12}{a}_{21}$ (즉 $ad-bc$)

• Determinant of a 3 by 3 matrix

  • 3×3 행렬 $A=\left(\begin{array}{ccc}a& b& c\\ d& e& f\\ g& h& i\end{array}\right)$의 행렬식 $|A|=\left|\begin{array}{ccc}a& b& c\\ d& e& f\\ g& h& i\end{array}\right|$을 구하는 방법은 두 가지가 있다.

  • Rule of Sarrus으로 정의/계산한다.

• Determinant of a 4 by 4 matrix

  • Laplace Expansion으로 정의/계산한다.

(2) Rule of Sarrus

• 사루스 법칙 (Rule of Sarrus)
  • 3×3의 정방행렬에서만 사용 가능
  • $|A|=\left|\begin{array}{ccc}a& b& c\\ d& e& f\\ g& h& i\end{array}\right|=aei+dhc+gbf-(ceg+fha+ibd)$
  • ↘+↘+↘ - (↙+↙+↙)

(3) Laplace Expansion

• 라플라스/여인수 전개 (Laplace/Cofactor Expansion)

  • $n\times n$ 정방행렬에서만 사용 가능

  • 4×4 이상의 정방행렬은 이 방법만 가능하다.

  • 2×2 행렬식의 recursive한 fornular로 정의된다.

• 소행렬식(minor) Mᵢⱼ

  • aᵢⱼ가 포함된 i행과 j열을 제거한 (n−1)×(n−1) 행렬의 행렬식

• 여인수 (Cofactor)

  • Aᵢⱼ = (−1)^(i+j) Mᵢⱼ
  • 부호는 i+j가 짝수면 +, 홀수면 −

• 전개식

  • 행 $k$, 열 $j$를 지운 부분행렬을 $A_{k,j}$라 할 때, 임의의 $j$에 대해:
  • 행 전개: $\det (A)={\sum }_{k=1}^n(-1{)}^{k+j}{a}_{jk}\det (A_{j,k})$
  • 열 전개: $\det (A)={\sum }_{k=1}^n(-1{)}^{k+j}{a}_{kj}\det (A_{k,j})$
  • (어느 행이나 어느 열로 전개해도 결과 동일)

• 방법

  1. 최대한 0을 많이 포함한 행(또는 열)을 선택한다.
  2. 부행렬의 일종인 소행렬을 만들고 소행렬의 행렬식을 구하기
     • 부행렬(submatrix)기존 행렬에서 일부 행과 열을 선택하여 만든 작은 행렬
     • 소행렬(minor)
       • 하나의 행과 하나의 열을 완전히 제거한 후 남은 정사각 부행렬
     • 소행렬식($M_{ij}$)
       • $|A|$의 i행과 j열을 제거하여 만든 부분 행렬식
  3. 앞에서 구한 소행렬식에 교대항을 곱해서 여인수로 만들기
     • 여인수(cofactor)
       • 소행렬식에 양/음 부호를 결정하는 교대항을 곱한 것이다.
       • 여인수 $C_{ij}=(-1{)}^{i+j}{M}_{ij}$
  4. 여인수를 전개한 값이 행렬식의 값

• 팁

  • 0이 많은 행/열을 기준으로 전개하면 계산량이 크게 줄어든다.

1.2. 행렬식의 성질

정리	내용
3-1	두 행(또는 열)이 같으면 Det(A) = 0
3-2	한 행(열)이 모두 0이면 Det(A) = 0
3-3	삼각행렬이 가역적 ⇔ 대각선 원소가 모두 0이 아님

(1) 행렬식 연산의 성질

1. $det(AB)=det(A)\cdot det(B)$ (곱셈에 대한 분해)
2. $det(A)=det(A^T)$ (전치해도 값 동일)
3. $det(A^n)=\{det(A){\}}^n$

(2) 기본 행 연산에서의 성질

1. 행렬식의 공통인수

   • 한 행(또는 열)의 공통인수는 행렬식 밖으로 꺼낼 수 있다.

   • ∴ n×n 행렬 A의 아무 한 행(또는 열)의 성분이 모두 0이면 행렬식은 0이다.

   • ∴ 계수를 전체적으로 꺼낼 때는 행렬의 차수만큼 거듭제곱이 되어 나온다.

     • → (A가 n×n 행렬일 때) $det(kA)=k^n\cdot det(A)$
     • → 대각행렬의 행배수곱 생각하면 편함

2. 행렬식의 부호 변화

   • 두 행(또는 열)을 골라서 서로 자리를 교환할 때 → 행렬식의 부호만 바뀐다.

3. 행렬식의 동치 (행렬식의 불변)

   • 한 행(열)에 임의의 실수 $k$를 곱한 후에 다른 행(열)에 더해도 행렬식 값은 변함없다.

   • 이 성질로 삼각행렬을 만들어 쉽게 계산한다.

   • 성분의 비례(벡터의 실수 배 또는 일차종속; linearly dependent)

     • 두 개 이상의 행(또는 열)이 비례하면 행렬식은 0이다. (동치→공통인수)

→ 이 성질들 덕분에 Gaussian elimination으로 determinant를 계산할 수 있음

(3) 특수한 행렬에서의 성질

• 삼각행렬(또는 대각행렬)의 행렬식
  • 주대각선 원소들의 곱(대각곱)과 같다. ($det(A)={\prod }_{i=1}^n{a}_{ii}$)
  • ∴ 항등행렬의 행렬식의 값은 1이다. ($det(I_n)=1$)

2. 역행렬

2.1. 정의

• Introduction

  • 행렬은 나눗셈을 할 수 없다.
  • 실수의 곱셈에 대한 역원은 자기 자신의 역수이고, 실수 계산에서의 나눗셈은 곱셈에 대한 역원을 곱하는 것과 같다.
  • 반면, 행렬 계산에서는 나눗셈 대신에 곱셈을 하며, 역원 대신 역행렬이라는 용어를 쓴다. 즉 어떤 행렬의 역행렬을 양변에 곱하면 나눗셈과 동일한 효과를 얻는다.

• 역행렬 (Inverse Matrix; $A^{-1}$)

  • $AB=BA=I_n$을 만족할 때, ($A$, $B$: $n$차 정방행렬, $I_n$: $n$차 단위행렬)
  1. $A$는 가역적(invertible)
  2. $B$는 $A$의 역행렬

2.2. 행렬식과 역행렬의 존재 여부

1. $det(A)=|A|\ne 0$

   • $A$의 역행렬이 존재한다.

   • A가 가역행렬(invertible), 정칙행렬, 비특이행렬(non-singular)

   • $\text{rk}(A)=n$

2. $det(A)=|A|=0$

   • $A$의 역행렬이 존재하지 않는다.
   • A가 비가역행렬(non-invertible), 비정칙행렬, 특이행렬(singular)

2.3. 역행렬의 성질

• 역행렬은 유일하다.

• 일반적 성질

  1. $(A^{-1}{)}^{-1}=A$
  2. $(kA{)}^{-1}=\frac{1}{k}{A}^{-1}$
  3. $(AB{)}^{-1}=B^{-1}{A}^{-1}$
  4. $(A^n{)}^{-1}=(A^{-1}{)}^n$
  5. $A{A}^{-1}=A^{-1}A=E$ (단, E는 단위행렬)
  6. $AB=E$이면 $B^{-1}=A$, $A^{-1}=B$이다. (단, E는 단위행렬)
  7. $E^{-1}=E$이다. (단, E는 단위행렬)

• A, B, C가 각각 n차 정방행렬이고, O를 n차 영행렬이라고 하자.

  1. A가 정칙행렬이고 AB=O이면 B=O이다.
  2. A가 정칙행렬이고 AB=AC이면 B=C이다.
  3. AB=C이고 C가 비정칙행렬이면 A 또는 B가 비정칙행렬이다.
  4. A가 정칙 대칭행렬이면 $A^{-1}$도 대칭행렬이다.
  5. A가 정칙 대칭행렬이면 $A{A}^T$, $A^{T}A$도 정칙 대칭행렬이다.

2.4. 역행렬 구하기

• 역행렬을 구하는 3가지 방법

  1. 가우스-조단 방법: 첨가행렬 $[A|I]$를 행 연산으로 $[I|A^{-1}]$ 형태로 변환. 도중에 한 행이 모두 0이 되면 비가역 → 중단
  2. 변수로 놓는 방법: A⁻¹을 미지수로 두고 AA⁻¹ = I를 풀어 연립방정식으로 구함
  3. 수반행렬(Adjugate) : 여인수 행렬 $B=[A_{ij}]$의 전치행렬이 Adj(A)

• 역행렬 공식

  • A⁻¹ = (1/Det(A))·Adj(A)

  • 2×2 특별식: $A^{-1}=(1/Det(A))\times [[a_{22},-a_{12}],[-a_{21},a_{11}]]$

  • 주의: 수반행렬은 여인수 행렬을 전치해야 하고, 마지막에 1/Det(A) 를 곱하는 것을 잊지 말 것

(1) 2×2 행렬의 역행렬

• 행렬 $\left(\begin{array}{cc}a& b\\ c& d\end{array}\right)$에 대하여 $A^{-1}=\frac{1}{ad-bc}\left(\begin{array}{cc}d& -b\\ -c& a\end{array}\right)$이다.
  • cf. 수반행렬이 하나 남는 항이 되고 → 전치

(2) n×n 행렬의 역행렬 (단, n≥2인 자연수)

• $A^{-1}=\frac{1}{|A|}\cdot adj(A)$ (단, $|A|\ne 0$)

• 여인수행렬 (Cofactor Matrix)

  • n차 정사각행렬 $A=[a_{ij}]$에 대하여, $a_{ij}$의 여인수 $C_{ij}=(-1{)}^{i+j}{M}_{ij}$를 $\{i,j\}$ 성분으로 갖는 행렬 $[C_{ij}]$를 A의 여인수 행렬이라 한다.

• 수반행렬 (Adjoint Matrix; $adj(A)$)

  • 역행렬 구하기에 수반되는 행렬
  • 여인수 행렬을 전치시킨 행렬(여인수 행렬 C의 $C^T$)

• 수반행렬의 성질

  1. $A^{-1}=\frac{1}{|A|}\cdot adj(A)$ (단, $|A|\ne 0$) ↔ $adj(A)=|A|\cdot A^{-1}$ (단, $|A|\ne 0$)
  2. $adj(AB)=adj(B)\cdot adj(A)$
  3. $AB=BA$이면 $adj(AB)=adj(A)\cdot adj(B)=adj(B)\cdot adj(A)$
  4. $adj(kA)=k^{n-1}adj(A)$ (단, k는 실수)
  5. $|adj(A)|=|A{|}^{n-1}$
  6. $\{adj(A){\}}^{-1}=\frac{1}{|A|}\cdot A$ (단, $|A|\ne 0$)
  7. $adj(A^{-1})=\frac{1}{|A|}\cdot A$ (단, $|A|\ne 0$)
  8. $\{adj(A){\}}^{-1}=adj(A^{-1})$ (단, $|A|\ne 0$)
  9. $adj(adj(A))=|A{|}^{n-2}\cdot A$
  10. $|adj(adj(A))|=|A{|}^{(n-1{)}^2}$
  11. $|adj(adj(adj(A)))|=|A{|}^{(n-1{)}^3}$

• (3) 가우스-조단 방식

  • 첨가행렬 $[A|I]$ → $[A->행연산|I->행연산]$ → $[I|역행렬]$

3. 선형방정식의 해법

• 역행렬 이용

  • Ax = b에서 A가 가역적이면 유일한 해 x = A⁻¹b

• 크래머의 규칙 (정리 3-15)

  • A가 가역적일 때, xᵢ는 A의 i번째 열을 b로 대체한 행렬의 행렬식을 Det(A)로 나눈 값
  • $x_i=\frac{\det (A_i)}{\det (A)}$

• 행렬식의 응용

  • 역행렬 존재 여부의 즉각 판정 (|A| = 0 여부)
  • 좌표가 주어진 삼각형의 면적 계산
  • 벡터로 이루어진 평행육면체의 체적 = 행렬식의 절댓값
  • 컴퓨터/문서 보안의 암호화(행렬 곱)와 복호화(역행렬)

Python 실습

• NumPy로 행렬식·역행렬·대각합 계산하기