이번 장에서는 앞서 1. Basic of deep learning and neural networks 와 2. Optimizing a neural network with backward propagation을 알아보았다면 핵심 개념 중 마지막인 Activation function(활성화 함수)를 알아보고자 한다. 인공신경망(Aritificial neural network)은 사람의 신경구조를 모방하였기 때문에 뉴런을 기반으로한 신호 전달 과정과 매우 유사하다. 뉴런은 여러 경로를 통해 들어온 전기신호의 합이 일정치 이상이 되어버리게 되면 다음 뉴런으로 신호를 전달한다. 여기서 여러 경로를 통해 들어온 전기신호의 합은 인공신경망에서 input과 weight, bias의 선형곱으로 더해진 값을 의미하며 일정..
1장에서 Forward propagation을 알아보았다. 2장에서는 앞에서 진행했던 Foward propagation로만 model을 만들기엔 좋은 예측을 보장할 수 없기에 2장에서는 Forward propagation이 아닌 backward propagation과정과 더불어 weight를 Optimization하는 과정을 알아보고자 한다. 먼저 Weight에 따른 Error를 살펴보도록 하자. 다음과 같이 2개의 input과 weights 그리고 실제 값인 Actual value of Target이 13이라고 한 경우 Error는 9-13 = -4 가 된다. -4라는 Error를 최소화하고 Model의 정확도를 높이고자 hidden layer에서 output으로 가는 weight를 수정해보자. Wei..
운 좋게도 주변에 정말 고마운 사람들이 많다. 최근 DataCamp에서 수강할 수 있는 수강권을 지인에게 얻게 되어 이 기회를 놓치지 않고 차근차근 기초부터 시작하기로 하였다. 다양한 Course들 중 무엇을 수강할까 고민을 많이 했는데 딥러닝이라는 단어를 보면 그냥 AI, Neural Network, Hidden Layer 등 정립되지 않은 내 개념을 정리하는 것이 먼저라고 생각되어 Introduction to deep learning을 선택하게 되었다. 그럼 강의 내용을 본격적으로 정리해보기로 한다. 한 예를 생각해보자. 은행업의 경우 자사 고객이 다음 연도에 얼마나 많은 거래를 할 것인지 예상하는 것은 중요하다. 자사 고객에게 맞춤 상품을 안내할 수도 있으며 블랙리스트, 대포통장 등 기업의 입장에서..
