特征是什么？描述数据、供模型做预测的输入变量

特征（Features）是机器学习中用于训练模型的输入变量或属性。它们用来表示被分析数据的特点或属性，模型根据这些特征来进行预测或分类。

一个例子

假设要建一个预测房价的模型。每一套房子可以用一组特征来描述：面积、卧室数量、所在的楼层、房龄、离地铁站的距离、所在的区域、是否有电梯。模型通过学习这些特征和房价之间的关系，就能根据一套新房子的特征，估算出它的价格。这里，房价是模型要预测的目标，也就是标签；而面积、卧室数量这些，就是特征。

特征的类型

特征本质上可以是数值型的，也可以是类别型的。数值型特征表示数量，比如年龄、温度、收入、面积，可以直接进行数学运算和大小比较。类别型特征表示所属的类别，比如颜色（红、绿、蓝）、城市（北京、上海、广州）、性别、职业。类别型特征通常需要先转换成数值才能交给模型，常用的方法是独热编码：为每一个可能的类别建一列，属于这个类别就是 1，否则是 0。此外还有文本、图像、时间序列等更复杂的数据，需要专门的方法提取特征。

特征工程

“数据和特征决定了机器学习的上限，而模型和算法只是在逼近这个上限。”这句流传很广的话，说明了特征的重要性。在传统的机器学习中，从原始数据中构造出好的特征，往往比选择用哪种算法更重要，这个过程叫特征工程。它包括：特征选择，从众多可用的变量中挑选出真正有用的，去掉无关的和冗余的特征；特征构造，根据领域知识创造出新的特征，比如在预测客户是否会流失时，从原始的购买记录中计算出“最近 30 天的购买次数”“距离上次购买的天数”，这些新特征往往比原始数据更有预测力；特征变换，比如把数值进行标准化，把数值范围调整到相近的尺度，或者对偏斜的数据取对数。特征工程往往需要大量的领域知识和经验。

深度学习：自动学习特征

深度学习的一个重大突破，就是能够自动地从原始数据中学习特征，大大减少了对人工特征工程的依赖。在过去，做图像识别需要专家精心设计各种图像特征，比如边缘、纹理、颜色的统计信息；而卷积神经网络可以直接读入原始的像素，自己在不同的层中逐步学到从边缘、纹理到物体部件、再到完整物体的层次化特征。在神经网络中，这些学到的中间表示也被称为“特征”或“特征图”。不过，对于结构化的表格数据，比如金融风控、销量预测，人工的特征工程配合梯度提升树等模型，至今仍然非常有效。