1. 딥러닝 개요

퍼셉트론

✔ 1957년 미국의 심리학자 프랑크 로젠블라트에 의해 고안된 인공신경망 최초의 알고리즘

✔ 입력층과 출력층만으로 구성된 단층 퍼셉트론(single layer perceptron)의 개념

✔ 이진 분류(Binary Classification) 모델을 학습하기 위한 지도학습(Supervised Learning) 기반의 알고리즘

단층 퍼셉트론

1. 다수의 값 $x$을 입력받고, 입력된 값마다 가중치($weight$)를 곱함

   • 가중치가 클수록 입력값이 중요하다는 것
   • $x$외에도 편향(bias, $b$)은 딥러닝 모델 최적화의 중요 변수 중 하나

2. 퍼셉트론은 입력받은 값을 모두 합산함 = 가중합

3. 활성화 함수 사용

   • 계단 함수
   • 시그모이드 함수

퍼셉트론 학습

• 입력값과 가중치를 곱하여 모두 더한 값을 활성화 함수에 넣어 출력값을 나오게 하고, 그 출력값이 정답과 오차가 얼마나 되는지를 계산해서 가중치를 업데이트시킴

바이어스(편향, $b$)

• 가중치가 각 입력값의 영향력을 조절하는 변수라면, 바이어스는 뉴런이 얼마나 쉽게 활성화 되느냐를 조절하는 변수

단층 퍼셉트론 한계

• XOR 게이트 구현 불가

• AND 게이트 표

• W1, W2: 0.5, 임계값: 0.7

선형과 비선형의 문제

• 퍼셉트론 하나는 직선으로 나눈 영역만 표현할 수 있다
• 퍼셉트론의 층을 더 쌓은 다층 퍼셉트론으로는 표현할 수 있다
• 활성화 함수를 사용하는 이유도 비선형을 만들어 주기 위함

다층 퍼셉트론

✔은닉층(hidden layer)이 존재한다면 → 다층 퍼셉트론 = Deep Neural Network, DNN

✔ DNN을 학습시키는 것 = 딥러닝

---

참고

• 퍼셉트론의 기본 개념과 학습 규칙, 한계점
• [Deep Learning] 퍼셉트론(Perceptron) 개념 이해
• [밑딥] 2장. 퍼셉트론 (Perceptron)

---

Next: 2. 딥러닝 학습

---

DeepLearning