반응형
[Stanford University CS231n, Spring 2017] Lecture 4 | Introduction to Neural Networks
컴퓨터비전2019. 12. 30. 21:33[Stanford University CS231n, Spring 2017] Lecture 4 | Introduction to Neural Networks

오늘은 cs231n 4강을 제 소신껏 정리해 보도록 하겠습니다. 우리는 저번 3강 때 score function , SVM의 loss인 hinge loss, softmax loss ( cross entropy loss ) , 규제 ( regularization ) 등 배웠습니다. Optimization에 대해서도 알아보았습니다. 여기서 경사하강법을 배웠습니다. 일반적으로 계산하는 방법은 numerical 방법입니다. 근데 이거는 속도가 느리고 정확하지 않다는 단점이 있습니다. 그래서 우리는 해석적 방법인 analytic 방법을 많이 사용하고 보통 gradient check를 할 때 numerical gradient를 사용한다고 배웠습니다. 앞서 배웠던 내용을 그림으로 표현하면 위와 같은 그림이 될 것입니..

반응형
image