如何进行特征选择？

今日面试题

如何进行特征选择？

解析：

特征选择是一个重要的数据预处理过程，主要有两个原因：一是减少特征数量、降维，使模型泛化能力更强，减少过拟合；二是增强对特征和特征值之间的理解。

常见的特征选择方式：

1. 去除方差较小的特征。
2. 正则化。1正则化能够生成稀疏的模型。L2正则化的表现更加稳定，由于有用的特征往往对应系数非零。

3. 随机森林，对于分类问题，通常采用基尼不纯度或者信息增益，对于回归问题，通常采用的是方差或者最小二乘拟合。一般不需要feature engineering、调参等繁琐的步骤。它的两个主要问题，一是重要的特征有可能得分很低（关联特征问题），二是这种方法对特征变量类别多的特征越有利（偏向问题）。

4. 稳定性选择。是一种基于二次抽样和选择算法相结合较新的方法，选择算法可以是回归、SVM或其他类似的方法。它的主要思想是在不同的数据子集和特征子集上运行特征选择算法，不断的重复，最终汇总特征选择结果，比如可以统计某个特征被认为是重要特征的频率（被选为重要特征的次数除以它所在的子集被测试的次数）。理想情况下，重要特征的得分会接近100%。稍微弱一点的特征得分会是非0的数，而最无用的特征得分将会接近于0。

END

今日学习推荐

【机器学习集训营第八期】

火热报名中

2019年5月6日开课

前140人特惠价:15199 

报名加送18VIP[包2018全年在线课程和全年GPU]

且两人及两人以上组团还能各减500元

有意的亲们抓紧时间喽

咨询/报名/组团可添加微信客服

julyedukefu_02

扫描下方二维码

免费试听

☟

长按识别二维码

●AI领域最优论文+代码查找神器：966个ML任务、8500+论文任你选

●面试常问的经典排序算法全攻略

●0元快速入门Python数据分析

●如何理解模型的过拟合与欠拟合，以及如何解决？

●哪些机器学习算法不需要做归一化处理？

●一文详解：什么是B树？

●34个最优秀好用的Python开源框架

●Python打牢基础，从19个语法开始！

扫描下方二维码  关注：七月在线实验室 

后台回复：100   免费领取【机器学习面试100题】

后台回复：干货 免费领取【全体系人工智能学习资料】

后台回复： 领资料 【NLP工程师必备干货资料】

▼更多精彩推荐，请关注我们▼

戳“阅读原文”我们一起进步

在看点一下