반응형 Back Propagation1 Back Propagation Back Propagation(오차 역전파, BP) BP의 목표 : 순방향(feed-forward) 네크워크에서 에러 함수 E(w) 의 그라디언트를 가장 효율적으로 구하는 식을 구하자. 입니다! 순방향 예측(Feed-forward Propagation Inference, FP)에서 나온 예측 값을 통해 네트워크의 Loss function L(w)의 Gradient를 효율적으로 구하는 algorithm입니다. 저는 BP를 학습 그 자체라고 이해하였습니다. 역전파는 경사하강법과 같은 Optimizer를 통해서 오차가 최소화되는 방향으로 가중치를 update한다. 라고 한 줄 요약할 수 있을 것 같습니다. 1) BP를 통해 기울기를 구한다. 2) Opimizer가 BP를 통해 구한 기울기를 사용하여 train.. 2023. 2. 16. 이전 1 다음 반응형
