标签：统计物理学

Hinton谈神经网络：从反向传播到玻尔兹曼机

辛顿回顾了神经网络发展的两条路径：成功的反向传播与有趣的玻尔兹曼机。他详细解释了反向传播如何通过链式法则并行调整权重，并以2012年AlexNet为里程碑。随后，他转向基于统计物理的玻尔兹曼机，阐述其通过“唤醒-睡眠”学习规则获取梯度的优美理论，以及受限玻尔兹曼机如何作为“酶”帮助初始化深度网络，为现代AI的诞生铺路。