COLT 是什么？计算学习理论领域的重要国际会议

COLT 是国际学习理论会议（Conference on Learning Theory）的简称，是计算学习理论和机器学习理论领域最重要的国际学术会议之一。它由学习理论协会主办，每年举行一次。会议最早于 1988 年举办，当时的名称是“计算学习理论研讨会”（Workshop on Computational Learning Theory），COLT 这个缩写就来自于此，后来改名为现在的“学习理论会议”，但沿用了 COLT 这一简称。

它研究什么

与更偏重算法和应用的机器学习会议相比，COLT 专注于机器学习的理论基础，关心的是用数学方法回答“学习为什么能成功、在什么条件下能成功、需要多少数据和计算”这类根本问题。主要的研究方向包括：PAC 学习理论，由莱斯利·瓦利安特在 1984 年提出的“概率近似正确”学习框架，研究在什么条件下能以高概率学到近似正确的模型；样本复杂度与泛化理论，比如 VC 维、Rademacher 复杂度、泛化误差上界；在线学习，研究数据一条一条到来、需要即时做出预测时，如何让累计的损失尽可能小；多臂老虎机问题和强化学习理论，研究探索与利用之间的权衡；优化理论，比如凸优化与非凸优化的收敛性分析；统计学习理论、核方法理论；以及深度学习理论、隐私保护学习、鲁棒学习等较新的方向。

重要的成果

很多影响深远的机器学习思想都与学习理论社区有关。提升法（Boosting）就是一个典型的例子：Michael Kearns 和 Leslie Valiant 提出了“弱学习器能否组合成强学习器”的理论问题，Robert Schapire 在 1990 年给出了肯定的证明，随后 Yoav Freund 和 Schapire 提出了 AdaBoost 算法，两人因此获得了 2003 年的哥德尔奖。在线学习中的乘法权重方法、专家建议问题，以及 Bandit 算法的理论分析，也是这个领域的重要成果。

在学术界的地位

COLT 在理论计算机科学和机器学习理论领域享有很高的声誉，中国计算机学会的推荐会议列表中也收录了它。它与 NeurIPS、ICML 等综合性机器学习会议互为补充：许多在 COLT 上提出的理论成果，后来被转化为实用的算法；而实践中遇到的新现象，比如深度神经网络在参数量远超样本数时仍能很好地泛化，也成为学习理论研究的新课题。周志华的《机器学习》在介绍计算学习理论一章时，也提到了 COLT 作为该领域主要学术会议的地位。