Natural Gradient Learning in Predictive Coding through Lateral Circuits

我们引入自然PC，它通过侧向电路增强标准PC，使在空间和时间上实现精确且高效的自然梯度学习。我们的侧向电路学习决定Fisher信息矩阵的活动相关性，并隐式计算其逆矩阵，避免昂贵的矩阵求逆。在所有测试的图像重建基准中，自然PC在样本和计算效率方面优于现有PC方法。