1. 신경망 앞장에서, AND, OR 게이트의 진리표를 보면 인간이 직접 적절한 가중치를 설정해야 했다. 신경망은 적절한 가중치 값을 데이터로부터 자동으로 학습한다. 본 장에선 신경망의 개요와, 신경망이 입력 데이터를 식별하는 처리 과정을 알아본다. 2. 활성화 함수 퍼셉트론의 동작을 간단히 요약하면 아래와 같다. $h(x)$와 같이 입력 신호의 총합을 출력 신호로 변환하는 함수를 활성화 함수라고 한다. 현재 $h(x)$는 0을 경계로 출력이 바뀌는 계단 함수이다. 그렇기에 퍼셉트론은 활성화 함수로 계단 함수를 이용한다. 다른 활성화 함수를 사용하는 것은 신경망으로 나아가는 길이다. 신경망에서 활성화 함수로 자주 이용했던 시그모이드 함수는 아래와 같다. 3. 시그모이드 함수와 계단 함수의 차이 가장 먼저..
1. 퍼셉트론의 정의 퍼셉트론(perceptron)은 1957년에 고안된 알고리즘이다. 퍼셉트론은 신경망의 기원이다. 퍼셉트론은 다수의 신호를 입력으로 받아 하나의 신호를 출력한다. 퍼셉트론 신호는 1 또는 0의 두 가지 값을 가진다. 위 그림은 입력으로 2개으 신호를 받은 퍼셉트론이다. 그림의 원을 뉴런 혹은 노드라고 부른다. 입력 신호가 뉴런에 보내질 때는 각각 고유한 가중치가 곱해진다. 가중치가 클수록 해당 신호가 그만큼 더 중요하다는 뜻이다. 뉴런에서 보내온 신호의 총합이 임계값을 넘어설 때만 1을 출력한다. 이를 뉴런이 활성화 되었다고 표현한다. 2. 퍼셉트론의 한계 퍼셉트론의 매개변수 값(가중치, 임계값)을 적절히 정하면 AND, NAND, OR 게이트를 구현할 수 있다. 하지만 두 입력값 중..