In many machine learning tasks, models are trained to predict structure data such as graphs. For example, in natural language processing, it is very common to parse texts into dependency trees or abstract meaning representation (AMR) graphs. On the other hand, ensemble methods combine predictions from multiple models to create a new one that is more robust and accurate than individual predictions. In the literature, there are many ensembling techniques proposed for classification or regression problems, however, ensemble graph prediction has not been studied thoroughly. In this work, we formalize this problem as mining the largest graph that is the most supported by a collection of graph predictions. As the problem is NP-Hard, we propose an efficient heuristic algorithm to approximate the optimal solution. To validate our approach, we carried out experiments in AMR parsing problems. The experimental results demonstrate that the proposed approach can combine the strength of state-of-the-art AMR parsers to create new predictions that are more accurate than any individual models in five standard benchmark datasets.


翻译:在许多机器学习任务中,对模型进行了培训,以预测图表等结构数据。例如,在自然语言处理中,将文字分析成依赖性树或抽象含义图示(AMR)非常常见。另一方面,混合方法将多种模型的预测结合起来,创造出比个别预测更可靠和准确的新模型。在文献中,为分类或回归问题提出了许多组合技术,但是,没有彻底研究共同图形预测。在这项工作中,我们将这一问题正式确定为挖掘最大的图表,而最大的图表是图表预测集。由于问题在于NP-Hard,我们建议一种高效的超值算法,以近似最佳解决方案。为了验证我们的方法,我们在AMR分类中进行了实验。实验结果表明,拟议的方法可以结合最先进的AMR定量数据的强度,以创造比五个标准基准数据集中的任何单个模型都更准确的新预测。

0
下载
关闭预览

相关内容

专知会员服务
84+阅读 · 2020年12月5日
斯坦福2020硬课《分布式算法与优化》
专知会员服务
118+阅读 · 2020年5月6日
【干货书】真实机器学习,264页pdf,Real-World Machine Learning
【文献综述】图像分割综述,224篇参考文献,附58页PDF
专知会员服务
119+阅读 · 2019年6月16日
Hierarchically Structured Meta-learning
CreateAMind
26+阅读 · 2019年5月22日
Transferring Knowledge across Learning Processes
CreateAMind
27+阅读 · 2019年5月18日
一文读懂依存句法分析
AINLP
16+阅读 · 2019年4月28日
已删除
创业邦杂志
5+阅读 · 2019年3月27日
强化学习的Unsupervised Meta-Learning
CreateAMind
17+阅读 · 2019年1月7日
无监督元学习表示学习
CreateAMind
27+阅读 · 2019年1月4日
Unsupervised Learning via Meta-Learning
CreateAMind
42+阅读 · 2019年1月3日
【泡泡一分钟】一种实用且高效的多视图匹配方法
泡泡机器人SLAM
6+阅读 · 2018年11月19日
Type-augmented Relation Prediction in Knowledge Graphs
Arxiv
7+阅读 · 2019年5月31日
Arxiv
31+阅读 · 2018年11月13日
Arxiv
26+阅读 · 2018年2月27日
VIP会员
相关资讯
Hierarchically Structured Meta-learning
CreateAMind
26+阅读 · 2019年5月22日
Transferring Knowledge across Learning Processes
CreateAMind
27+阅读 · 2019年5月18日
一文读懂依存句法分析
AINLP
16+阅读 · 2019年4月28日
已删除
创业邦杂志
5+阅读 · 2019年3月27日
强化学习的Unsupervised Meta-Learning
CreateAMind
17+阅读 · 2019年1月7日
无监督元学习表示学习
CreateAMind
27+阅读 · 2019年1月4日
Unsupervised Learning via Meta-Learning
CreateAMind
42+阅读 · 2019年1月3日
【泡泡一分钟】一种实用且高效的多视图匹配方法
泡泡机器人SLAM
6+阅读 · 2018年11月19日
Top
微信扫码咨询专知VIP会员