신호로 보는 AI

목차 › 제4장 틀린 만큼 거꾸로

점수 조금 고치기

계산한 방향으로 아주 조금씩

3D로 보기
학습 0 → 1회 · 정답률 10%

점수를 아주 조금 고친다

계산한 방향대로 모든 선의 점수를 아주 조금씩 고친다. 이것이 "학습 한 번"이다. 실제로는 그림 한 장이 아니라 32장을 한꺼번에 보고 고친다. 한 번 고친 것으로는 답이 거의 달라지지 않는다.

이 때의 AI의 답: 6 (32%) · 정답 3에 준 퍼센트 5.7% · 오답

왜?한 번에 크게 고치면 이 32장에는 맞아도 다른 그림에서 틀리게 된다. 그래서 조금씩, 여러 번 고친다.

더 알기눈을 감고 산을 내려갈 때, 발밑에서 가장 가파르게 내려가는 쪽으로 한 걸음씩 옮기는 것과 비슷하다. 그래서 이 방법을 경사 하강법이라고 부른다.

이 장면을 3D로 보기 →

더 읽기

Wikipedia: Gradient descent

시리즈의 다른 작품

손글씨 숫자 그림 1,797장(가로세로 8칸, scikit-learn 내장 데이터)으로 작은 AI(신경망, 64→16→16→10)를 실제로 학습시킨 값입니다. 정답률은 배울 때 쓰지 않은 그림 297장으로 쟀습니다. 공부용 작은 모형이며, 실제 AI 서비스는 배운 숫자가 수십억 개 이상입니다.