목차 › 제4장 틀린 만큼 거꾸로
답에서 판 쪽으로 거슬러 가며 책임을 나눈다
3D로 보기이번에는 거꾸로 간다. 주황색 빛이 오른쪽(답)에서 왼쪽(판)으로 흐른다. 틀린 답에 어느 선이 얼마나 책임이 있는지 한 층씩 거슬러 가며 계산하는 것이다. 주황색이 밝은 선일수록 점수를 많이 고쳐야 한다.
왜?선 1,440개를 하나씩 바꿔 보며 확인하면 너무 오래 걸린다. 거꾸로 한 번만 계산하면 모든 선의 점수를 어느 쪽으로, 얼마나 고칠지 한꺼번에 알 수 있다.
더 알기이 방법을 역전파라고 부른다. 오늘날 신경망 AI는 대부분 이 방법으로 배운다.
이 장면을 3D로 보기 →시리즈의 다른 작품
손글씨 숫자 그림 1,797장(가로세로 8칸, scikit-learn 내장 데이터)으로 작은 AI(신경망, 64→16→16→10)를 실제로 학습시킨 값입니다. 정답률은 배울 때 쓰지 않은 그림 297장으로 쟀습니다. 공부용 작은 모형이며, 실제 AI 서비스는 배운 숫자가 수십억 개 이상입니다.