반응형 Softmax와 Negative Log-Likelihood (NLL)1 [ 용어 ] Softmax와 Negative Log-Likelihood (NLL) pytorch로 VGG-16 모델을 구현하다가 softmax와 Negative Log-Likelihood의 용어를 알게되어서 정리해본다. 1. Softmax softmax는 보통 뉴럴 네트워크의 출력 layer에 속해있고 사용 목적으로는 multi-class classification과 같은 문제에서 최종 출력을 0과 1 사이의 확률값을 나타내기 위해 사용된다. 0~1 사이의 값으로 모두 정규화된 값으로 출력되고 출력값들의 총합은 항상 1이 되는 특징을 가지고 있다. 가장 큰 출력 값으로 부여받은 클래스가 확률이 가장 높은 것으로 사용된다. $ p_j = \frac{e^{zj}}{\sum^k_{k=1}e^{zj}} , j= 1,2,3,...,k $ $ k $ = 클래스 수 $ z_j $ = 소프트맥스 함.. 2023. 7. 21. 이전 1 다음 반응형
