关于梯度下降的一些问题

[kkkkkkip]

你好，我对snn的梯度下降有一些问题不大懂。在lif_fc_mnist中，损失函数是由发射脉冲频率和0/1的mse求得的，损失函数里的变量有几个呢，分别是什么？在梯度下降部分损失函数对什么求偏导呢，用链式法则对应的哪些变量呢？

[fangwei123456]

梯度计算部分，除了脉冲发放过程，其他部分与ANN是没有区别的

https://pytorch.org/docs/stable/notes/autograd.html

[fangwei123456]

和ANN没有区别。建议你尝试一下自己用torch的autograd function实现加减乘除以及矩阵乘法函数，以此熟悉pytorch的梯度计算流程。参考extend pytorch的教程

[kkkkkkip]

好的，但是关于脉冲发射频率的导数是怎么计算的呢，这一部分ann不涉及

[fangwei123456]

先累加脉冲：

spikingjelly/spikingjelly/activation_based/examples/lif_fc_mnist.py

Line 166 in a75dd3b

out_fr += net(encoded_img)

然后除以总仿真步数：

spikingjelly/spikingjelly/activation_based/examples/lif_fc_mnist.py

Line 167 in a75dd3b

out_fr = out_fr / args.T

[kkkkkkip]

嗯嗯，求频率的过程我知道，但是不是还需要对频率求导吗

[fangwei123456]

这些过程是pytorch的autograd完成的。这一部分与spikingjelly框架无关，是pytorch的核心功能