[Deep Learning] 퍼셉트론(Perceptron)과 뉴럴 네트워크(Neural Networks)

퍼셉트론(perceptron)은 프랑크 로젠블라트가 1957년에 제안한 초기 형태의 인공 신경망(ANN: Artificial Neural Netwokrs)입니다.

퍼셉트론은 다수의 입력으로부터 출력을 갖는 알고리즘으로, 사람의 뇌를 구성하는 신경 세포 뉴런의 동작과 유사합니다.

뉴런이 가지돌기에서 신호를 받아들이고, 이 신호가 일정치 이상의 크기를 가지면 축삭돌기를 통해 신호를 전달하는것처럼 퍼셉트론은 입력, 가중치, 활성화함수, 출력으로 구성됩니다.

아래 그림은 뉴런과 퍼셉트론을 나타냅니다.

퍼셉트론의 활성화함수는 입력과 가중치에 대하여 출력을 결정 짓는 중요한 역할을 합니다.

활성화함수에 대한 자세한 내용은 다음 포스팅을 참조해 주세요.

 

초기에 퍼셉트론은 AND, OR 연산을 풀어내어 주목 받았습니다. 이것은 인공지능의 시작입니다.

AND 게이트를 예를 들면, 아래와 같이 2개의 입력을 받아 1개의 출력을 가지는 퍼셉트론으로 해결할 수 있습니다.

여기서 임계치는 0.7로 설정했습니다.

하지만 위와 같은 단층 퍼셉트론은 XOR 연산을 해결할 수 없습니다.

아래 그림과 같이 AND, OR는 1개의 직선으로 해결 가능하지만, XOR는 불가능합니다.

이 시기를 '인공지능의 첫 번째 겨울'이라고 합니다.

하지만 이후에 단층 퍼셉트론이 아닌 다층 퍼셉트론을 만들면 XOR 문제를 해결할 수 있다는 내용이 알려지고 이것이 인공지능의 시초입니다.

다층 퍼셉트론은 단층 퍼셉트론 중간에 은닉층(hidden layer)을 추가한 퍼셉트론으로, 층을 여러겹으로 쌓아가면서 선형 분류만으로 풀지 못했던 문제를 비선형적으로 풀어낼 수 있습니다.

다층 퍼셉트론을 MLP(multi layer perceptron)라고 부르며, 현재는 인공 신경망으로 부릅니다.

그리고 은닉층이 2개 이상인 신경망을 심층 신경망(Deep Neutral Networks, DNN)으로 부릅니다.