报告题目:线性侧向预测编码神经网络中的相变理论
报 告 人:周海军 研究员(国家杰青),中国科学院理论物理所
研究方向:统计物理
报告时间:2024年6月26日(星期三)下午16:30
报告地点:量子楼410报告厅
报告摘要:
近年来,神经网络的统计物理学越来越引起人们的关注。从自旋玻璃和组合优化的角度看待神经网络的参数学习问题是一个重要视角。神经网络的学习过程,可以看成是在网络中建立一个内部模型表征外部世界的过程。我将介绍一个非常简单的线性侧向预测编码网络系统,并探讨该系统呈现的一些相变现象。在该侧向预测编码网络学习过程中,由于能量约束和信息编码鲁棒性的要求,系统将尽可能去调整神经元的权重参数,以实现能量和信息鲁棒性的最优妥协。这将导致最优预测编码网络出现自发对称性破缺、兴奋抑制均衡、和最优编码理想气体关系等等。我也将介绍中国科学院理论物理研究所的统计物理与复杂系统研究团队一些近期的涉及结构复杂性、计算复杂性和信息处理复杂性的相关工作。
报告人简介:
周海军,中国科学院理论物理所研究员,兼任中科院理论物理前沿重点实验室常务副主任,闽江理论物理协作中心主任,中国科学院大学物理学院副院长。曾入选中科院“百人”计划及获得国家杰出青年科学基金支持,是第十一届中国青年科技奖(2010)获奖人之一。1991-1995年求学于南开大学物理系;2000年获中国科学院理学博士学位,同年获洪堡基金会资助在德国马克斯普朗克胶体与界面研究所从事博士后研究;2005年入职中国科学院理论物理研究所。研究领域为统计物理,尤其侧重于自旋玻璃平均场理论及其在交叉学科中的应用,在单分子聚合物熵弹性力学、非合作博弈论、复杂网络等方面也做过一些工作。近年关注神经网络统计物理学和细胞内的非平衡动力学。出版专著《自旋玻璃与消息传递》(科学出版社,2015)。