【百度AutoDL教程】自动深度学习: 理论、算法、平台和应用，132PPT

百度研究院大数据实验室窦德景博士等人给了关于自动深度学习的教程包括AutoDL的理论、算法、平台和应用，共132PPT，涵盖神经架构搜索、迁移学习和元学习，以及深度学习模型压缩。该教程将包括对最先进的算法和系统的全面调研。是了解工业界学术界的最好自动深度资料。 ![](https://cdn.zhuanzhi.ai/vfiles/d2ff3868a41c909690189e278604eedd

概览

机器学习、数据挖掘和数据分析技术在众多领域的广泛使用为自动构建模型、共享和重用模型、算法和代码提供了机会，以帮助提高解决方案的速度和减少工作的重复。尽管这适用于广泛的机器学习任务，但由于许多原因，自动化模型构建对深度学习特别重要。这样的例子包括：

• 深度学习模型有很多超参数需要调整，
• 深度学习模型需要很长时间的训练
• 目前广泛使用的深度学习架构屈指可数。

在本教程中，我们关注最新的主题，如神经架构搜索、迁移学习和元学习，以及深度学习模型压缩。该教程将包括对最先进的算法和系统的全面调研，对报告者的研究经验的详细描述，以及由百度AutoDL团队构建的平台的现场演示。

本教程不需要任何先决条件。假设有监督学习和深度学习的一般知识就行。

目录

我们计划涵盖自动深度学习模型构建、迁移和压缩相关的广泛主题。具体的教程大纲是:

(1) 神经结构搜索

• 基于深度强化学习的NAS
• 可微分架构搜索
• 随机搜索和进化搜索

(2) 深度学习模型迁移和元学习

• 微调
• 基于正则化的迁移学习
• 知识蒸馏

(3) 深度学习模型压缩

• 修剪，半精度，低秩分解
• 参数共享
• 知识蒸馏
• 基于nas的模型压缩

(4) AutoML平台

• 谷歌云自动机器学习
• 微软Azure ML
• Amarzon SageMaker

(5) 百度EasyDL和Jarvis的现场演示(支持百度AutoDL)

讲者介绍

Dejing Dou博士是俄勒冈大学计算机和信息科学系的教授，领导着高级集成与挖掘(AIM)实验室。他也是美国国家科学基金会IUCRC大学习中心(CBL)的主任。1996年获清华大学学士学位，2004年获耶鲁大学博士学位。

研究领域包括人工智能、数据挖掘、数据集成、信息提取和健康信息学。Dr. Dejing Dou发表研究论文100余篇，其中部分论文发表在AAAI、IJCAI、KDD、ICDM、ACL、EMNLP、CIKM、ISWC、JIIS、JoDS等知名会议和期刊上。他的DEXA'15论文获得了最佳论文奖。他的KDD'07论文被提名为最佳研究论文奖。他是《数据语义期刊》、《智能信息系统期刊》和PLOS ONE的编委会成员。他曾担任各种国际会议的项目委员会成员，并担任其中四次会议的项目联合主席。窦博士已经从国家科学基金会和国家卫生研究院获得了超过500万美元的PI研究资助。

其他讲者包括：Dr. Jun Huan，Dr. Siyu Huang，Dr. Di Hu，Mr. Xingjian Li，Dr. Haoyi Xiong，Dr. Boyang Li

合并下载：链接: https://pan.baidu.com/s/1qvSPv1f7wrHYLlvgC6NaMw 提取码: m871