backpropagation1 4강 Introduction to Neural Networks Backpropagation (역전파법)local gradient를 구하기 위해서는 Forward Pass(FP) 방법을 이용한다. 목적은 각 input에 대한 gradient를 구하기 위함으로 output에 얼마나 영향을 미치는지 알아보기 위해서이다. global gradient를 구하기 위해서는 Backward pass(backpropagation)을 이용한다. Chain rule을 이용하여 편미분 값을 구할 수 있다. local gradient는 네트워크의 각 층에서 개별적인 뉴런의 기울기를 의미하며, global gradient는 네트워크의 전체 출력에 대한 기울기를 의미한다. 이는 결국 Loss function에서의 기울기를 통해 계산된다. 역전파는 전체 기울기를 계산하기 위해 각 층에서 lo.. 2025. 4. 4. 이전 1 다음
