直推学习是什么？只对手头这批未标注样本做出预测

直推学习（Transductive Learning），也叫转导学习或转导推理，是一种与归纳学习相对的学习方式：在学习的时候，我们已经知道需要预测的是哪些具体的样本，学习的目标只是对这一批特定的样本给出好的预测，而不是学到一个能够应用于将来任何新样本的通用模型。这一概念由统计学习理论的奠基人弗拉基米尔·瓦普尼克在 20 世纪 90 年代大力推广。

归纳与直推

大多数机器学习方法都属于归纳学习：从训练数据中总结出一般性的规律，也就是一个模型，然后用这个模型去预测将来可能出现的任何新样本。比如训练一个垃圾邮件分类器，之后无论来了什么新邮件，都可以用它来判断。直推学习则不同：在训练时，那些需要预测的样本就已经摆在眼前了，虽然它们没有标签，但它们的特征是已知的。学习算法可以同时利用有标签的训练样本和这些无标签的待预测样本，直接为后者给出预测结果。

瓦普尼克提出直推学习的理由是：在信息有限的情况下，解决一个问题时，不应该先去解决一个更一般、更困难的问题作为中间步骤。如果我们只关心某一批样本的类别，那么直接预测它们，可能比先学一个对所有可能样本都适用的通用模型更容易、更准确。

一个直观的例子

假设平面上有大量的点，只有其中少数几个标注了类别，其余的点需要我们来分类。如果只根据那几个有标签的点画一条分界线，可能画得很不合理；但如果观察所有的点，会发现它们自然地聚成了两团，中间隔着一条空隙。直推学习会利用这一信息，让分界线从空隙中穿过，把同一团中的点都归为同一类。这些无标签的待预测样本本身的分布，为分类提供了重要的线索。

代表性的方法

直推式支持向量机：由 Thorsten Joachims 在 1999 年提出，在寻找分界面时，不仅要正确地分开有标签的样本，还要让分界面远离那些待预测的无标签样本，穿过数据稀疏的区域。它在文本分类中，当有标签的文档很少时效果明显优于普通的支持向量机。基于图的方法：把所有的样本，包括有标签的和待预测的，构建成一张图，相似的样本之间连一条边，然后让标签沿着图从有标签的样本传播到无标签的样本，比如标签传播算法。在图神经网络中，经典的节点分类任务通常也是直推式的：整张图，包括所有节点的特征和连接关系，在训练时都是可见的，只是部分节点的标签未知，模型的目标是预测这些节点的标签。

与半监督学习的关系

直推学习与半监督学习密切相关，两者都同时利用有标签和无标签的数据。周志华《机器学习》对此做了区分：半监督学习可以分为“纯半监督学习”和“直推学习”。纯半监督学习假设训练数据中的无标签样本并不是待预测的数据，学到的模型要能够应用于将来没有见过的新样本，这仍然是一种归纳的学习；而直推学习只对学习过程中所观察到的那些无标签样本进行预测。

优缺点

直推学习的优点是能够充分地利用待预测样本自身的结构信息，在有标签数据很少时往往效果更好。它的缺点是：每当有新的样本需要预测时，通常需要把它加入进来重新进行学习，不能像归纳学习那样直接用已有的模型快速地给出预测，因此不太适合需要实时处理不断到来的新数据的场景。