인공지능수학 · 제3회

겹겹이 쌓다선 하나로 못 푸는 문제를, 층을 쌓아 풀다 — 신경망

1회의 퍼셉트론선 하나만 그어요. 그래서 못 푸는 문제가 있죠. 뉴런을 여러 층으로 겹겹이 쌓고 사이에 ‘휘어주는’ 장치를 넣으면 어떤 복잡한 경계도 그릴 수 있어요 — 이게 신경망(딥러닝)입니다.


01선 하나로 안 되는 문제

XOR(엇갈림) 문제 — (0,0)과 (1,1)은 파랑, (0,1)과 (1,0)은 빨강. 이 네 점을 직선 하나로 파랑·빨강으로 나눌 수 있을까요? 해보면… 절대 안 돼요!

파랑이 대각선으로 마주 보고 빨강도 마주 봐서, 어떤 선을 그어도 한쪽엔 섞여요. 그럼 어떻게 풀까요?

02직접 해보기 — 층을 쌓으면

퍼셉트론(선 1개)신경망(층 여러 개)을 바꿔보세요. 배경색은 기계의 판단 영역이에요. 신경망은 휘어진 경계로 네 점을 완벽히 갈라요!

정확도 (0/4)

한 층 더 쌓고 비선형(활성화함수)을 넣으면, 신경망은 직선을 넘어 곡선·복잡한 영역까지 그릴 수 있어요. 층이 깊을수록 더 복잡한 패턴을 배우죠 — ‘깊은’ 신경망 = 딥러닝. 숨은 층이 스스로 유용한 특징을 만들어내요.

03신경망 — 층 × 비선형

y = f( W₂ · f( W₁·x + b₁ ) + b₂ ) (f = 활성화함수)

가중치 곱셈(선형)과 휘어주는 함수 f를 번갈아 쌓아요. 비선형 f가 없으면 아무리 쌓아도 결국 직선 하나예요. 이 구조가 이미지 인식·번역·챗봇·자율주행을 가능케 했어요.

04스스로 점검하기

점수 0 / 0

05더 깊이 — 세 개의 수심

고교신경망·은닉층·비선형층을 쌓고 활성화함수로 휘어, 직선으로 못 푸는 문제를 해결.
학부다층퍼셉트론·역전파·활성화순전파·역전파(연쇄법칙), ReLU·시그모이드, 보편근사정리.
대학원CNN·트랜스포머·표현학습합성곱·어텐션, 깊이와 일반화, 대규모 사전학습.

다음 회 예고 — 드디어 은우의 질문! 말을 숫자로 바꿔 감정을 읽고, 반어법이 왜 어려운지. → 인공지능수학 제4회

『수요를 따라가는 수학 · 인공지능수학』 제3회. 신경망 XOR 결정영역 시뮬레이터 + 자동채점. · 인공지능수학방으로