讨论班 | ESL讨论班、学术交流研讨班（2021/3/1-2021/3/7）

发布日期：2021-03-04

1、讨论班简介

ESL讨论班

针对新同学开展统计学习精要的学习，主讲机器学习知识。课程内容以《The Elements of Statistical Learning》为主，部分延伸内容需要参考辅助书目；

 

学术交流研讨班

针对博士生开展，主要形式为学术论文讨论交流。

 

2、时间及地点

 

image 8

 

 

3、本期内容概述

ESL讨论班

线性回归

线性回归是统计学习中最基础的模型之一，其衍生方法在金融、流行病等领域都有广泛的应用。本次讨论班的将从线性回归出发，介绍线性回归的求解方法以及对应的理论性质。针对线性回归在应用中可能遇到的困难，我们将介绍子集选择、压缩估计、投影三种线性回归的衍生方法，并解释了不同方法的作用原理和实际意义。最后我们关注子集选择、压缩估计在其他统计问题中的应用和推广。

 

学术交流研讨班

最优子集选择

最优子集选择的目的在于寻找一个小的子集使得模型具有最理想和可比的预测准确性。这对回归分析不仅是重要的和必要的，还对包括计算机科学和医学在内的研究领域都有着深远的应用。我们提出了一种多项式时间的算法求解最优子集选择问题。该算法利用排序和剪接有限步之内达到稳定的解。在稀疏性水平未知下，结合信息准则，我们证明了 ABESS 算法能够复原真实激活集。我们证明了依概率一下算法生成稳定的解是具有 oracle 性质的。我们还揭示了该算法与其他方法的联系。数值实验结果验证了 ABESS 算法的有效性。