이번 장에서는 앞서 1. Basic of deep learning and neural networks 와 2. Optimizing a neural network with backward propagation을 알아보았다면 핵심 개념 중 마지막인 Activation function(활성화 함수)를 알아보고자 한다. 인공신경망(Aritificial neural network)은 사람의 신경구조를 모방하였기 때문에 뉴런을 기반으로한 신호 전달 과정과 매우 유사하다. 뉴런은 여러 경로를 통해 들어온 전기신호의 합이 일정치 이상이 되어버리게 되면 다음 뉴런으로 신호를 전달한다. 여기서 여러 경로를 통해 들어온 전기신호의 합은 인공신경망에서 input과 weight, bias의 선형곱으로 더해진 값을 의미하며 일정..
