학습규칙 & 역전파(Backpropagation)
[학습규칙] :신경망이 학습할 때 결합강도가 어느 정도로 변화하는지 설명한 것. 1. 헵의 규칙 (Hebbian rule) 심리학자 Donald Hebb이 주장한 뇌의 시냅스 가소성에 관한 법칙.가소성이란 변화된 상태가 계쏙 유지되는 성질을 의미함. 헵의 규칙은 시냅스 앞쪽의 신경세포가 흥분하고 이에 따라 시냅스 뒤쪽 신경세포가 흥분하면 시냅스의 전달효율이 강화된다는 주장에 근거.반대로, 장기간 흥분하지 않으면 그 시냅스의 전달 효율도 감퇴. 결합강도(가중치)의 변화량은 시냅스 앞쪽 뉴런 출력 yi, 시냅스 뒤쪽 뉴런의 출력 yj 로 나타낼 수 있음.감마는 상수. yi가 yj와 함께 커지면 결합 강도가 크게 증가됨.시냅스 전후 뉴런의 흥분이 반복적으로 발생하면 이후부터는 시냅스에서 정보가 점차 효율적으로..
