요약

• 선형 계층
  • 선형 계층은 행렬의 곱과 벡터의 덧셈으로 이루어져 있다.
  • 선형 계층 또한 함수이며, 내부의 가중치 파라미터의 값에 따라 출력 값이 달라진다.
  • 선형 계층을 통해 선형 데이터에 대한 관계를 분석하거나 선형 함수를 근사할 수 있다.
• 선형 계층의 수식

\[\begin{gathered} y=f(x)=x\cdot{W}+b, \\ \text{where }x\in\mathbb{R}^{N\times{n}}\text{, }W\in\mathbb{R}^{n\times{m}}\text{, }b\in\mathbb{R}^m\text{ and }y\in\mathbb{R}^{N\times{m}}. \end{gathered}\]

• GPU 활용하기
  • to 함수를 통해 텐서나 모델을 원하는 GPU 로 복사/이동시킬 수 있다.
  • 텐서끼리의 연산은 같은 장치(디바이스)에서만 가능하다.

---