[머신러닝 - Python] SIgmoid 계층 구현 (Sigmoid Class Implementation)
1. Sigmoid 함수 sigmoid 함수는 다음과 같습니다. 이때 sigmoid 함수를 계산 그래프로 표현하면 아래의 사진과 같습니다. 숝 sigmoid에는 +, * 말고 새로운 exp, / 노드가 추가 되었습니다. 이때 주의해야 할 점은 계산 할 때는 국소적 미분으로 계산해야 한다는 점입니다. 해당 노드는 해당 노드의 미분 값만 계산해야 합니다. 1 단계 / 노드, 즉 를 미분하면 다음 식이 됩니다. 따라서 상류에서 흘러온 값에 을 곱해서 하류로 보냅니다. 여기서 주의해야 할 점은 순전파때 사..
