数学科学学院第六届“研究生人文教育与学术交流月”讲座2
发布于:2021-06-17 16:29:53   |   作者:[学院] 数学学院   |   浏览次数:5285

讲座主题:基于局部近似的Stein变分梯度下降方法
特邀专家:闫亮 副教授

讲座时间:202162110:30

讲座地点:主楼A1-513学术讨论室

专家介绍:闫亮,东南大学副教授。东南大学“至善青年学者”。主要从事不确定性量化、贝叶斯反问题理论与算法的研究。主持自然科学基金项目,江苏省自然科学基金青年项目等。已在SISCIPJCP等刊物上发表论文20多篇。

讲座摘要:贝叶斯计算在现代机器学习和统计中对不确定性进行推理有重要应用。贝叶斯推理中一个关键的计算挑战是开发有效的近似技术,或从后验分布中抽取样本。SVGD已被证明是一个强大的近似推理算法。然而,普通SVGD需要计算目标密度的梯度,当梯度不可用或评估代价太大时,不能应用该梯度。本讲座我们探讨一种解决这一挑战的方法,即为目标分布构造一个局部代理,以一种计算上更可行的方式获得梯度。更具体地说,我们使用一个深度神经网络(DNN)来近似前向模型,该网络是在一个精心选择的训练集上训练的,这也决定了代理的质量。为此,我们提出了一种通用的自适应算法,在不破坏SVGD收敛性的情况下在线改进局部逼近。这大大降低了SVGD的计算成本,并产生了一套易于实现的算法。在一组具有挑战性的贝叶斯反问题上给出了新算法,数值实验表明标准SVGD的性能和适用性有了明显的提高。