퍼셉트론에서 신경망으로

퍼셉트론은 신경망과 다릅니다.

물론 퍼셉트론으로 복잡한 함수도 표현이 가능 하지만

원하는 결과가 나오도록 가중치 값을 정하는 작업은 사람이 해줘야하기 때문입니다.

하지만 신경망은 그렇지 않습니다.

가중치 매개변수의 값을 데이터로부터 자동으로 학습합니다.

신경망의 구조를 알아보겠습니다.

신경망은 입력층, 은닉층, 출력층 크게 3가지의 층으로 구성됩니다.

주의 할 점은 실제로 가중치를 갖는 층은 은닉층과 출력층 2개의 층이기 때문에

2층 신경망이라고 합니다.

신경망

https://ko.wikipedia.org/wiki/%EC%9D%B8%EA%B3%B5_%EC%8B%A0%EA%B2%BD%EB%A7%9D

위의 그림만 봐서는 퍼셉트론과 크게 차이점이 없습니다.

차이점은 뉴런이 연결되는 방식이 아닌 신호를 전달하는 방식의 차이에 있습니다.

퍼셉트론에서 신경망으로

x1과 x2를 입력받아 가중치를 곱해서 y를출력하는 퍼셉트론입니다.

이런 식을 가지는 퍼셉트론입니다.

편향을 사용하면 아래와 같은 식으로 바뀝니다.

편향을 나타내줘서 뉴런이 얼마나 쉽게 활성화되는지 제어할 수 있습니다.

가중치는 각 신호의 영향력을 제어합니다.

편향을 명시한 퍼셉트론은 아래와 같은 그림으로 나타냅니다.

 

식을 더욱 간결하게 나타내기 위해서 함수를 사용합니다.

위의 식을 예로들면 a에 b + w1x1 + w2x2 를 넣고

y = h(a) 이런식으로 표현한겁니다.

이와같이 입력 신호의 총합을 출력 신호로 변화하는 함수를 활성화 함수라 합니다.

아래는 활성화 함수의 처리 과정 그림입니다.

맨 오른쪽 가장 큰 뉴련에 활성화 처리 과정이 명시되어있습니다.