很简单，特征选择的主要目的是通过特征选择算法从原始特征集中选择出评估标准最佳的特征子集，以便帮助研究人员把任务更好地进行分类与回归，提高算法的泛化能力。特征选择的优势在于可以压缩学习算法搜索的空间、减少特征集合数量的大小。除此之外，特征选择不仅能提高数据分类的精确度和效率，还可以提升对模型学习的速度。
传统的特征选择方法对于传统的数据特征具有很好的选择效果，随着以数学特征为基础的评估措施、搜索技术、统计学等多学科的发展，更多的算法工具被运用到特征选择中，并取得了可观的研究成果．处于该领域的学术研究者开发了许多实用且有效的特征选择算法，但并不是所有的方法都是完美无缺的，在存在优势的同时也存在着相应的缺点。
统计方法的缺点就在于计算过程相对复杂，数据具有一定的复杂性，而且数据特征会由于维度的增加呈指数倍趋势增长。因此，统计方法在现实使用中仍存在一定难度且不太实用。传统的计算方法已经不能适应当今时代的发展变化，应着眼于现实情况，引入更多不同的工具来更新传统算法的观念。
特征选择（feature selection）和特征提取（feature extraction）是特征工程中的两个重要问题。有句说法：数据和特征决定了机器学习的上限，而模型和算法只是逼近这个上限而已。由此可见，特征工程尤其是特征选择在机器学习中占有相当重要的地位。
在机器学习中，特征选择（feature selection） 也被称为变量选择、属性选择 或变量子集选择 。它是指：为了构建模型而选择相关特征（即属性、指标）子集的过程。使用特征选择技术有三个原因：
- 简化模型，使之更易于被研究人员或用户理解
- 缩短训练时间
- 改善通用性、降低过拟合（即降低方差）
要使用特征选择技术的关键假设是：训练数据包含许多冗余或无关的特征，因而移除这些特征并不会导致丢失信息。特征选择是指去掉无关特征，保留相关特征的过程，也可以认为是从所有的特征中选择一个最好的特征子集，本质上是一种降维的过程。
特征提取（feature extraction）是指将机器学习算法不能识别的原始数据转化为算法可以识别的特征的过程。比如说，图片是由一系列像素点构（原始数据）成的，这些像素点本身无法被机器学习算法直接使用，但是如果将这些像素点转化成矩阵的形式（数值特征），那么机器学习算法就可以使用了。
特征选择技术与特征提取有所不同。特征提取实际上是把原始数据转化为机器学习算法可以识别的数值特征，从原有特征的功能中创造新的特征，不存在降维的概念，不需要理会这些特征是否有用；而特征选择是在提取出来的特征中选择最优的一个特征子集，常常用于许多特征但样本（即数据点）相对较少的领域。特征选择应用的典型用例包括：解析书面文本和微阵列数据，这些场景下特征成千上万，但样本只有几十到几百个。
回答分2部分，第一部分为特征提取和特征选择的区别，
第二部分为sklearn相应的模块及中英文文档。
1. 特征提取和特征选择区别：
特征提取（Feature Extraction）:
特征选择（Feature Selection）:
两者对比图：
2. sklearn中相关
a. 数据预处理: sklearn.preprocessing
b. 特征提取: sklearn.feature_extraction
c. 降维: sklearn.decomposition
d. 特征选择: sklearn.feature_selection
详情请查看官方文档或中文文档：
如果对你有帮助，请点赞支持
特征提取和特征选择都是机器学习中的重要环节,但二者存在以下主要区别:
特征提取:是从原始数据中派生出新的特征,这些特征可以更好地表示数据的含义和内在相关性。例如,从图像数据中提取色 histogram、纹理特征等。特征提取的目的是得到数据的新的表示,这些表示可以提高学习模型的预测能力。
特征选择:是从已有的特征中选择最优的特征子集,用于训练学习模型。特征选择的目的是消除无关和冗余特征,减小特征维度,从而简化模型,提高预测性能和算法效率。常用的特征选择方法有过滤法(基于相关系数)、包裹法(基于学习模型)等。
可以看出,特征提取是生成新的特征表示,而特征选择是选择现有特征中的最优特征。两者的目的都是提高机器学习模型的效果,但达到目的的手段不同。实际应用中,也经常将两者结合使用,通过特征提取获得更丰富的特征表示,再从中采用特征选择方法选择最优特征,这种特征工程的流程可以获得最佳的特征集合,从而训练出高精度的学习模型。
所以,总的来说,特征提取侧重于获得数据的新表示,而特征选择侧重于优化现有特征,二者的区别主要在于对特征的获取方式不同,但目的和作用都是为了提高机器学习效果。希望这个区分可以帮助您理解特征工程的概念和流程。
在机器学习中，特征提取和特征选择是两个不同的概念，它们在数据预处理和特征表示方面有不同的作用。特征提取（Feature Extraction）是一种将原始数据转换为新的、更具代表性的特征表示的方法。在特征提取过程中，通常会从原始数据中提取出一组与任务相关的特征，以便更好地表达数据的信息。特征提取的目标是通过数学变换、降维或其他方式，从原始数据中提取出最有价值的信息，以供后续的模型训练和预测使用。常见的特征提取方法包括主成分分析（PCA）、独立成分分析（ICA）、线性判别分析（LDA）、特征哈希（Feature Hashing）等。这些方法可以将高维数据转换为低维表示，去除数据中的冗余信息，从而减少模型训练的计算复杂度，并提高模型的性能。特征选择（Feature Selection）是一种从原始特征集合中选择出最有价值的特征子集的方法。在特征选择过程中，我们希望选择那些与任务相关性较高的特征，将其作为模型输入，忽略与任务无关或者冗余的特征。特征选择的目标是减少特征空间的维度，提高模型的泛化能力和解释性。特征选择方法可以分为三类：过滤式方法、包裹式方法和嵌入式方法。过滤式方法是在特征与目标之间进行独立筛选，比如相关系数、方差分析等。包裹式方法是通过构建特征子集并在模型上进行评估，来选择最佳特征子集，但计算复杂度较高。嵌入式方法则是将特征选择与模型训练过程融合在一起，比如使用L1正则化的逻辑回归模型。在实际应用中，特征提取和特征选择常常结合使用，以获得更好的特征表示和模型性能。通过特征提取，我们可以从原始数据中提取出有意义的信息，并将其转化为新的特征表示。然后，通过特征选择，我们可以选择最相关的特征，忽略冗余或无关的特征，从而提高模型的泛化能力和效率。