딥러닝을 위한 텐서 개념 공부하기

딥러닝의 가장 기본적인 단위는 벡터(vector), 행렬(matrix), 텐서(tensor)이다.

차원이 없는 값은 스칼라(scala)이다. 스칼라는 방향은 가지지 않고 크기만 가진다.

예를 들어 속도(velocity)는 크기와 방향을 가지지만 속력(speed)에는 크기만 있다.

1차원으로 구성된 값을 벡터(vector)라고 하며, 2차원으로 구성된 값은 행렬(Matrix)라고 부릅니다.

3차원은 우리가 살고 있는 세상인데, 텐서(Tensor)라고 부릅니다.

[1] -> Scala 

[1,1] -> Vector 

[[1,1],[1,1]] -> Tensor 

(위의 사진에 스칼라는 없습니다.)

3 = sample dimension, 2 = max length of sentence, 4 = word vector dimention

---

핵심 명령어 정리

 

ndim(차원)

shape(행렬)

dtype(데이터타입)

dot(곱하기)

 

sigmoid

- 시그모이드 함수는 S자형 곡선 또는 시그모이드 곡선을 갖는 수학 함수이다. 시그모이드 함수의 예시로는 첫 번째 그림에 표시된 로지스틱 함수가 있으며 다음 수식으로 정의된다.

softmax 

- 출력의 합(확률)이 1이 되게 조정

- e = 자연상수 (무리수, 약 2.7)

 

Relu

- ReLU 함수는 정류 선형 유닛(영어: Rectified Linear Unit 렉티파이드 리니어 유닛에 대한 함수이다. ReLU는 입력값이 0보다 작으면 0으로 출력, 0보다 크면 입력값 그대로 출력하는 유닛인데, 그 함수는 다음과 같다.

{\displaystyle f(x)=x^{+}=\max(0,x)}

 

참고사이트 

https://wikidocs.net/52460

https://www.youtube.com/watch?v=m0qwxNA7IzI