11/11 세미나

오늘은 이현종 연구원이 SNN에서 spiking neuron의 neuronal dynamic을 기존의 modeling보다 더욱 많이 반영하여 이를 closed form equation으로 표현하고 기존의 ReLU 기반의 activation function들보다 더욱 진보된 형태의 activation function들도 ANN-to-SNN conversion 기술을 통해 성공적으로 변환할 수 있음을 보여준 논문을 다뤘습니다. 해당 논문에서는 기존의 Spiking neuron의 nonlinearity로 인해서 나타나는 gradient 근사의 문제를 signSGD를 통해 ANN을 훈련하여 해결하고 signSGD가 가중치 업데이트에 있어서 neuronal dynamic에 더 잘 맞다는 점을 활용해 성공적으로 ANN-to-SNN conversion을 수행했습니다. 저희도 지금 ANN-to-SNN conversion 기법을 이용해 spikingYOLO-v8을 구현하고 있는데 해당 연구에 이 논문에서 제시하는 SignSGD를 활용해도 좋을 것 같습니다.

답글 남기기

이메일 주소는 공개되지 않습니다. 필수 필드는 *로 표시됩니다