[선형 대수] 벡터 공간과 부분 공간의 기저

벡터 공간과 부분 공간

선형 대수를 공부하려면 기본이 되는 벡터 공간(Vector space)과 벡터 부분 공간(Vector subspace)을 이해해야 한다. 인공지능을 공부하다보면 SVM(Support Vector Machine) 모델을 종종 접한다. SVM은 최대 마진 초평면(Maximum Margin Hyperplane)이라고 해서 두 범주를 최대로 나누어 주는 평면을 찾게 되는데, 이때 선형 대수 개념을 알지 못하면 알고리즘을 깊이 있게 알기 어렵기에 공간 개념을 이해해야 한다.

 

- 좌표 평면 → 2차원 실수 공간

- 좌표 공간(벡터 공간) → 3차원 실수 공간

 

부분 공간

공집합이 아닌 R^n 상의 벡터들의 집합이 스칼라 곱과 덧셈에 관해 닫혀있다면 이를 R^n 상의 부분공간이라고 한다.

(뺄셈과 곱셈은 부분공간이 될수 없다.)

 

부분공간의 기저

선형대수학에서 기저(base)란 벡터 공간을 생성하는 일종의 뼈대라고 할 수 있다. 벡터 공간 V를 생성할 때 최소한으로 필요한 것의 집합을 기저라고 한다.

어떤 벡터 공간의 기저는 그 벡터 공간을 선형 생성하는 선형 독립인 벡터들이다.

 

기저의 특징은 다음과 같다.

• 한 공간을 구성할 수 있는 벡터의 집합이다.
• 차원에 따라 기저 벡터의 개수가 정해져 있다. → 2차원에서 기저 벡터는 2개이다.

기저벡터를 (x,0), (0, y) 형태로 표현한다면 모두 가능하다.

표준 기저 벡터

기저 벡터 중에서도 여러 원소 중 하나만 값이 1이고, 다른 값은 0인 다음과 같은 기저 벡터를 표준 기저 벡터(Standard basis vector)라고 한다.

 

차원

일반적으로 차원은 수학에서 공간 내에 있는 점 등 위치를 나타내는 데 필요한 축의 개수를 의미한다.

선형대수학적 차원에서 차원은 기저 벡터의 개수를 의미한다.

 

랭크

랭크(rank)는 행렬 A에서 선형 독립인 행 혹은 열의 개수를 의미한다.

 

참고로 행렬에서 column rank와 row rank는 항상 같은 경우, 이를 랭크 정리(rank theorem)라고 한다.

일반적으로 이 둘을 구분 없이 랭크라고 한다.

 

참고

https://losskatsu.github.io/linear-algebra/basis/#2-%EC%A2%8C%ED%91%9C%ED%8F%89%EB%A9%B4%EC%97%90%EC%84%9C%EC%9D%98-%EA%B8%B0%EC%A0%80