5주차 - 역전파

모딥)
- XOR 문제는 매우 간단하지만, 하나의 신경망 모델로는 풀 수 없음이 수학적으로 증명이 되었기에 신경망 분야에 암흑기를 가져왔다
- 이를 해결하기 위해 여러 유닛을 겹쳐놓은 Multiple logistic regression unit이 등장하였다
- 이 경우 weight와 bias를 잘 학습시켜서 얻어낸다면 XOR 문제를 정상적으로 해결할 수 있게 되는데, 이때 weight와 bias의 학습은 역전파 기법을 이용하여 이루어진다
- 역전파(Back propagation): 에러에 의한 코스트 값을 다시 앞으로 돌려보내어 weight와 bias를 피드백 하는 것
- 텐서플로우에선 텐서보드를 통해 역전파가 가능하다