퍼셉트론으로 살펴보는 인공신경망(딥러닝)의 원리

인공신경망은 어디에서 왔고 어떻게 학습하는가. 이 강의는 딥러닝의 가장 작은 단위인 퍼셉트론에서 출발해, 신경망이 학습하는 원리를 그림 한 장씩으로 풀어낸다. 슬라이드 43장 전체를 아래 PDF로 내려받을 수 있고, 그 아래 갤러리에서 바로 넘겨볼 수 있다.

강의 개요

항목	내용
강사	김진관
제작일	2022-10-06
대상	인공지능·딥러닝 입문자, 정보 교과 교사
분량	슬라이드 43장
핵심 개념	퍼셉트론 · 가중합 · 활성화 함수 · 가중치 학습 · 다층 퍼셉트론 · XOR

자료 내려받기

슬라이드 전체 내려받기 (PDF · 43장 · 약 2.6MB)

강의 내용

인공신경망의 뿌리는 생물의 자기 제어 원리를 기계 장치에 적용하려던 사이버네틱스와 생물학적 뉴런에 있다. 여기서 착안한 퍼셉트론은 프랭크 로젠블랫이 제안한 신경망의 기본 단위다. 퍼셉트론은 여러 입력에 각각 가중치를 곱해 더한 값, 곧 가중합(z = Σ xᵢwᵢ + b, b는 바이어스)을 구하고, 이 값을 활성화 함수에 통과시켜 출력을 낸다.

이 강의가 거듭 강조하는 명제는 하나다. 학습은 가중치의 값을 조정하는 것이다. 신경망의 학습은 네 단계로 돌아간다. 먼저 입력에서 출력으로 순방향 계산을 하고, 손실 함수로 예측값과 실제값의 오차를 구하며, 그 오차에 따라 가중치를 조정하고, 이 과정을 반복한다. 강의는 가중치를 볼륨 손잡이에 빗댄다. 손잡이를 조금씩 돌려 오차를 줄여 가는 것이 학습의 실체다.

하나의 퍼셉트론은 직선 하나로 나눌 수 있는 문제만 풀 수 있어, XOR처럼 직선으로 가를 수 없는 문제 앞에서 멈춘다. 이 한계는 은닉층을 더한 다층 퍼셉트론이 해결한다. 럼멜하트와 매클렐런드의 병렬 분산 처리(Parallel Distributed Processing) 연구가 보여주듯, 입력층과 출력층 사이에 은닉층을 두면 XOR 같은 비선형 문제도 풀 수 있다. 인공지능은 병렬적이고 분산된 처리를 해야 한다는 관점이 그 바탕에 있다.