决策树集成学习中的结构多样性

2018 年 6 月 20 日 FCS

点击上方蓝字

关注我们

导读

决策树是一类著名的预测模型，成功地用作集成学习中的基学习器。本文作者南京大学周志华教授、孙涛在论文中认为，应同时考虑行为多样性和结构多样性，并针对决策树提出了一种树匹配多样性度量。通过实验对比决策森林上使用不同多样性度量的选择性集成算法的性能，实验结果表明同时考虑结构多样性和行为多样性有助于构建性能更好的集成。

该提法是基于以下认识：

“为了构建一个泛化性能好的分类器集成，个体分类器需要具有较高的正确率和多样性。尽管有过很多尝试，多样性度量仍然是个谜。本文猜测以往的多样性度量之所以存在一些不足之处，是因为它们只考虑了分类器在做预测时预测行为间的差异，即行为多样性，而忽视了即使两个分类器预测结果相同，它们的结构也可能不同。”

本文工作为设计更优的多样性度量和集成学习方法提供了一个新的可行的研究方向。

文章精要

请长按下方二维码识别，阅读该文。

相关内容推荐：

基于LDA模型的协同过滤 2 0 1 8 12(3)：571-5 8 1

结合序列二次规划的回溯搜索算法 2 0 1 8 12(2)：316-3 3 0

一种解决类不平衡问题的进化欠采样bagging集成分类算法 2 0 1 8 12(2)：3 3 1-3 5 0

FCS 12(2) 人工智能专栏 | 关于差异进化算法中变异个体的选择

FCS 12(1) 文章 | 多峰问题全局优化的分布式学习粒子群优化算法

FCS 12(1) 文章 | 多层次的中文垃圾短信高效识别方法

FCS 11(6) 文章 | 从Instagram图片轨迹中挖掘兴趣圈模式进行旅行线路推荐

FCS 11(6) 文章 | 图像检索基于颜色空间量化的聚类

FCS 11(5) 文章 | 使用维纳过程过采样技术改善不平衡数据的学习

FCS 11(5) 文章 | 基于上下文语言模型的时序文本流突发热点特征挖掘

FCS 11(5) 文章 | 基于人工神经网络的矩形钢管混凝土柱轴向承载力研究

FCS 11(4) 文章 | 通用目标检测的局部结构化表示

FCS 11(4) 文章 | E-GrabCut: 一种经济的迭代视频目标提取方法

FCS 11(3) 文章 | 分层多智能体系统中的知识、信念、和肯定性推理

FCS 11(3) 文章 | 基于混合免疫方案的工作职位推荐系统

Frontiers of Computer Science

期刊封面_icon.jpg Frontiers of Computer Science （FCS）是由教育部主管、高等教育出版社出版、SpringerNature 公司海外发行的英文学术期刊。本刊于 2007 年创刊，双月刊，全球发行。主要刊登计算机科学领域具有创新性的综述论文、研究论文等。本刊主编为李未院士，执行主编为熊璋教授和周志华教授。编委会及青年 AE 团队由国内外知名学者及优秀青年学者组成。本刊被 SCI、Ei、DBLP、INSPEC、SCOPUS 和中国科学引文数据库（CSCD）核心库等收录，为 CCF 推荐期刊；两次入选“中国科技期刊国际影响力提升计划”；入选“第4届中国国际化精品科技期刊”。