티스토리 뷰

1. 퍼셉트론의 정의

퍼셉트론(perceptron)은 1957년에 고안된 알고리즘이다. 퍼셉트론은 신경망의 기원이다.

퍼셉트론은 다수의 신호를 입력으로 받아 하나의 신호를 출력한다. 퍼셉트론 신호는 1 또는 0의 두 가지 값을 가진다.

 

 

 

 

 

위 그림은 입력으로 2개으 신호를 받은 퍼셉트론이다. 그림의 원을 뉴런 혹은 노드라고 부른다. 입력 신호가 뉴런에 보내질 때는 각각 고유한 가중치가 곱해진다. 가중치가 클수록 해당 신호가 그만큼 더 중요하다는 뜻이다. 뉴런에서 보내온 신호의 총합이 임계값을 넘어설 때만 1을 출력한다. 이를 뉴런이 활성화 되었다고 표현한다. 

 

 

 

 

2. 퍼셉트론의 한계

퍼셉트론의 매개변수 값(가중치, 임계값)을 적절히 정하면 AND, NAND, OR 게이트를 구현할 수 있다.

하지만 두 입력값 중 한쪽만 1일 때만 1을 출력하는 XOR 게이트(배타적 논리합)은 퍼셉트론으로 구현할 수 없다.

 

 

 

 

퍼셉트론은 직선으로 영역을 구분한다. 나뉜 영역에 따라 출력값이 0 또는 1이 된다. 위 그림처럼 AND, OR 게이트는 직선으로 영역을 구분할 수 있지만, XOR 게이트는 직선을 어떻게 그어도 구분할 수 없다.

 

 

 

 

3. 선형과 비선형, 다층 퍼센트론

직선이라는 제약을 없앤다면 얼마든지 영역을 구분할 수 있다.

 

 

위와 같은 곡선의 영역을 비선형 영역이라고 하며, 직선의 영역을 선형 영역이라고 한다. 다층 퍼셉트론으로 XOR 게이트를 구현할 수 있다. 즉, 다층 퍼셉트론은 비선형 역역을 표현할 수 있다

'밑바닥부터 시작하는 딥러닝1' 카테고리의 다른 글

오차역전파법  (0) 2023.12.03
학습 알고리즘  (0) 2023.11.30
경사 하강법  (0) 2023.11.26
신경망 학습  (0) 2023.11.26
신경망  (0) 2023.11.25
«   2024/05   »
1 2 3 4
5 6 7 8 9 10 11
12 13 14 15 16 17 18
19 20 21 22 23 24 25
26 27 28 29 30 31