2018年4月18日精彩内容推荐(《强化协同训练》、《神经网络优化》等论文)

2018 年 4 月 18 日 Chatbots技术与产品 Joy@yige.ai

点击 Chatbots技术与产品快速关注本账号!


1.论文《Reinforced Co-Training》: 

这篇论文为传统地半监督学习方法提供了新思路。我们发现:不是所有的未标注数据都有用,而传统方法通过随机采样,即使高置信度采样也有问题。我们提出了利用随机算法对未标注样本空间分割,再采用强化学习方法选择低采样偏差的数据,对半监督文本分类有很好的效果。

https://arxiv.org/abs/1804.06035

By 王威廉


2.论文《Co-occurrence Feature Learning from Skeleton Data for Action Recognition and Detection with Hierarchical Aggregation》:

基于骨架的行为识别检测任务上,提出了Hierarchical Co-occurrence Network(HCN)端到端学习框架,在NTU RGB+D,SBU Kinect Interaction,PKU-MMD等数据集上均取得了SOTA性能。

https://arxiv.org/abs/1804.06055

By 星空下的巫师


3.【神经网络优化】On the Convergence of Adam and Beyond

在神经网络优化方法中,有很多类似Adam、RMSprop这一类的自适应学习率的方法,但是在实际应用中,虽然这一类方法在初期下降的很快,但是往往存在着最终收敛效果不如SGD+Momentum的问题。作者发现,导致这样问题的其中一个原因是因为使用了指数滑动平均,这使得学习率在某些点会出现激增。在实验中,作者给出了一个简单的凸优化问题,结果显示Adam并不能收敛到最优点。在此基础上,作者提出了一种改进方案,使得Adam具有长期记忆能力,来解决这个问题,同时没有增加太多的额外开销。

https://www.paperweekly.site/papers/1841

By PaperWeekly


4.『Tensorflow实现的CNN关系抽取』《Tensorflow Implementation of Convolutional Neural Network for Relation Extraction》  

GitHub:https://github.com/roomylee/cnn-relation-extraction

By 算法组


5.【开放机器学习课程之Gradient Boosting】《Open Machine Learning Course. Topic 10. Gradient Boosting》by Anastasia Manokhina

https://medium.com/open-machine-learning-course/open-machine-learning-course-topic-10-gradient-boosting-c751538131ac

pdf:https://pan.baidu.com/s/1o6y9RCF9IqJE3IyFd7wrjg

By 爱可可-爱生活


(PS:点击阅读原文可直接打开链接,查看更多精彩内容


- END -


非常欢迎加入我们的微信群一起讨论分享!

新浪微博:ChatbotsChina

微信号:Chatbots01

关注我们,一起学习机器人

登录查看更多
1

相关内容

专知会员服务
59+阅读 · 2020年3月19日
【Nature论文】深度网络中的梯度下降复杂度控制
专知会员服务
38+阅读 · 2020年3月9日
【Google】利用AUTOML实现加速感知神经网络设计
专知会员服务
28+阅读 · 2020年3月5日
【华侨大学】基于混合深度学习算法的疾病预测模型
专知会员服务
96+阅读 · 2020年1月21日
深度学习算法与架构回顾
专知会员服务
77+阅读 · 2019年10月20日
2018年7月27日精彩内容推荐 (2018自然语言处理研究报告)
Chatbots技术与产品
5+阅读 · 2018年7月27日
2017年12月19日精彩内容推荐(《强化学习》第二版免费下载)
Chatbots技术与产品
6+阅读 · 2017年12月19日
Adaptive Neural Trees
Arxiv
4+阅读 · 2018年12月10日
Arxiv
11+阅读 · 2018年4月25日
Arxiv
3+阅读 · 2018年2月22日
Arxiv
12+阅读 · 2018年1月20日
VIP会员
相关资讯
2018年7月27日精彩内容推荐 (2018自然语言处理研究报告)
Chatbots技术与产品
5+阅读 · 2018年7月27日
2017年12月19日精彩内容推荐(《强化学习》第二版免费下载)
Chatbots技术与产品
6+阅读 · 2017年12月19日
Top
微信扫码咨询专知VIP会员