研究人员已经花费了大量的时间来优化超参数和调整结构。我们能否减少开发深度学习算法的努力,让研究人员更多地关注创新领域?在本教程中,我们鼓励研究人员设计超参数范围和可能的网络架构组合,并将工作负载传递给机器。本教程将涵盖自动机器学习中的重要概念,以及在计算机视觉中的应用。观众将能够通过使用Jupiter Notebooks的动手部分来复制大规模的实验。

成为VIP会员查看完整内容
0
27

相关内容

百度研究院大数据实验室窦德景博士等人给了关于自动深度学习的教程包括AutoDL的理论、算法、平台和应用,共132PPT,涵盖神经架构搜索、迁移学习和元学习,以及深度学习模型压缩。该教程将包括对最先进的算法和系统的全面调研。是了解工业界学术界的最好自动深度资料。 ![](https://cdn.zhuanzhi.ai/vfiles/d2ff3868a41c909690189e278604eedd

概览

机器学习、数据挖掘和数据分析技术在众多领域的广泛使用为自动构建模型、共享和重用模型、算法和代码提供了机会,以帮助提高解决方案的速度和减少工作的重复。尽管这适用于广泛的机器学习任务,但由于许多原因,自动化模型构建对深度学习特别重要。这样的例子包括:

  • 深度学习模型有很多超参数需要调整,
  • 深度学习模型需要很长时间的训练
  • 目前广泛使用的深度学习架构屈指可数。

在本教程中,我们关注最新的主题,如神经架构搜索、迁移学习和元学习,以及深度学习模型压缩。该教程将包括对最先进的算法和系统的全面调研,对报告者的研究经验的详细描述,以及由百度AutoDL团队构建的平台的现场演示。

本教程不需要任何先决条件。假设有监督学习和深度学习的一般知识就行。

目录

我们计划涵盖自动深度学习模型构建、迁移和压缩相关的广泛主题。具体的教程大纲是:

(1) 神经结构搜索

  • 基于深度强化学习的NAS
  • 可微分架构搜索
  • 随机搜索和进化搜索

(2) 深度学习模型迁移和元学习

  • 微调
  • 基于正则化的迁移学习
  • 知识蒸馏

(3) 深度学习模型压缩

  • 修剪,半精度,低秩分解
  • 参数共享
  • 知识蒸馏
  • 基于nas的模型压缩

(4) AutoML平台

  • 谷歌云自动机器学习
  • 微软Azure ML
  • Amarzon SageMaker

(5) 百度EasyDL和Jarvis的现场演示(支持百度AutoDL)

讲者介绍

Dejing Dou博士是俄勒冈大学计算机和信息科学系的教授,领导着高级集成与挖掘(AIM)实验室。他也是美国国家科学基金会IUCRC大学习中心(CBL)的主任。1996年获清华大学学士学位,2004年获耶鲁大学博士学位。

研究领域包括人工智能、数据挖掘、数据集成、信息提取和健康信息学。Dr. Dejing Dou发表研究论文100余篇,其中部分论文发表在AAAI、IJCAI、KDD、ICDM、ACL、EMNLP、CIKM、ISWC、JIIS、JoDS等知名会议和期刊上。他的DEXA'15论文获得了最佳论文奖。他的KDD'07论文被提名为最佳研究论文奖。他是《数据语义期刊》、《智能信息系统期刊》和PLOS ONE的编委会成员。他曾担任各种国际会议的项目委员会成员,并担任其中四次会议的项目联合主席。窦博士已经从国家科学基金会和国家卫生研究院获得了超过500万美元的PI研究资助。

其他讲者包括:Dr. Jun Huan,Dr. Siyu Huang,Dr. Di Hu,Mr. Xingjian Li,Dr. Haoyi Xiong,Dr. Boyang Li

合并下载:链接: https://pan.baidu.com/s/1qvSPv1f7wrHYLlvgC6NaMw 提取码: m871

成为VIP会员查看完整内容
0
58

主题: Artificial Intelligence in Transportation

简介:

交通是生活的基本必需品。在人类历史上,探索更好的交通方式从来没有停止过。近年来,拼车行业的革命和自动驾驶技术的创新每天都产生大量的交通数据。如此庞大的数据量开启了现代智能交通的新时代。许多传统的交通问题可以通过现代机器学习和数据挖掘方法找到更好的解决方案。本教程的目的是为参与者提供一个广泛和全面的基础,最近的发展和交通AI的开放问题。

交通运输是一个非常广泛的研究领域。本教程以全球最大的移动交通平台滴滴出行的实际应用和需求为基础,围绕移动交通平台的主题展开。我们将主题分为三类。首先是地图服务,包括地图匹配、交通预测、预计到达时间(ETA)和路线规划等,为后续的决策过程提供准确的基础信息。这些问题大多在纯交通或地理信息系统的文献中进行了研究。然而,这些都不能满足实时移动交通平台的准确性或效率要求。有必要以现代的观点重新审视这些问题,并探索适应更严格要求的新解决方案。第二类是决策,构建核心共乘平台。类似的问题在交通运输以外的研究领域也得到了广泛的研究。然而,随着移动交通系统的新挑战,它们被重新定义。最后一类是用户体验,如出行安全评估,这是移动交通平台的独特需求。

邀请嘉宾:

王征博士,滴滴AI实验室研究员,滴滴智能地图服务架构研究员。2011年获得清华大学博士学位,2011-2014年在亚利桑那州立大学担任研究员,2014-2016年在密歇根大学安娜堡分校担任研究员。他获得了多个奖项,包括KDD的最佳研究论文奖亚军和IEEE国际社会计算会议(SocialCom)的最佳论文奖。曾担任ICML、NIPS、SDM、IJCAI等重要会议PC委员,并在ICDM上做过辅导。他现在领导着研发团队,致力于设计和开发新的机器学习系统和服务,用于滴滴地图和滴滴能力预测平台。他设计了滴滴ETA和路线规划服务的新型机器学习和深度学习解决方案,每天服务超过200亿次请求。

秦志伟博士在滴滴AI实验室领导强化学习研究,致力于拼车市场优化的核心问题。他在哥伦比亚大学获得运筹学博士学位,在温哥华不列颠哥伦比亚大学获得计算机科学和统计学学士学位。对优化和机器学习交叉领域的研究课题非常感兴趣,最近的研究领域是强化学习及其在运营优化、数字营销、交通信号控制和教育中的应用。曾在ICML、KDD、IEEE ICDM、WWW、JMLR和MPC等顶级会议和机器学习与优化期刊上发表文章。

成为VIP会员查看完整内容
0
37
小贴士
相关论文
Hyper-Parameter Optimization: A Review of Algorithms and Applications
Tong Yu,Hong Zhu
12+阅读 · 2020年3月12日
Xiaohua Zhai,Avital Oliver,Alexander Kolesnikov,Lucas Beyer
4+阅读 · 2019年5月9日
Hardness-Aware Deep Metric Learning
Wenzhao Zheng,Zhaodong Chen,Jiwen Lu,Jie Zhou
5+阅读 · 2019年3月13日
Junlang Zhan,Hai Zhao
3+阅读 · 2019年3月1日
Training behavior of deep neural network in frequency domain
Zhi-Qin J. Xu,Yaoyu Zhang,Yanyang Xiao
3+阅读 · 2018年8月21日
Chengxiang Yin,Jian Tang,Zhiyuan Xu,Yanzhi Wang
6+阅读 · 2018年6月8日
Wenbin Li,Jing Huo,Yinghuan Shi,Yang Gao,Lei Wang,Jiebo Luo
8+阅读 · 2018年5月15日
Yanzhao Zhou,Yi Zhu,Qixiang Ye,Qiang Qiu,Jianbin Jiao
3+阅读 · 2018年4月3日
Carlos Toxtli,Andrés Monroy-Hernández,Justin Cranshaw
8+阅读 · 2018年2月9日
Vincent Dumoulin,Francesco Visin
6+阅读 · 2018年1月11日
Top