目录:

  • 数据处理
    • 数据扩充
    • 批量归一化
  • 训练神经网络
    • Epoch
    • 最小批量
    • 交叉熵损失
    • 反向传播
    • 梯度下降
    • 更新权重
    • 梯度检查
  • 参数调整
    • Xavier初始化
    • 转移学习
    • 学习率
    • 自适应学习率
  • 正则化
    • Dropout
    • 权重调整
    • 提前停止
  • 良好训练
    • 过度拟合小批量
    • 梯度检查
成为VIP会员查看完整内容
0
19

相关内容

人工智能(Artificial Intelligence, AI )是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学。 人工智能是计算机科学的一个分支。

题目

深度学习技巧速查清单《CS 230 - Deep Learning Tips and Tricks Cheatsheet》by Afshine Amidi, Shervine Amidi

关键词

深度学习,技能教授,知识速查

内容

  • 数据准备
  • 训练神经网络
  • 调参数
  • 正则化
  • 实验

论文作者

Afshine Amidi,来自Operations Research Center系的硕士学位,由Dimitris Bertsimas教授监督完成。曾与亚马逊和麦肯锡公司合作完成项目。

成为VIP会员查看完整内容
0
23
小贴士
相关VIP内容
【课程推荐】 深度学习中的几何(Geometry of Deep Learning)
专知会员服务
39+阅读 · 2019年11月10日
【课程】伯克利2019全栈深度学习课程(附下载)
专知会员服务
35+阅读 · 2019年10月29日
相关资讯
你有哪些深度学习(rnn、cnn)调参的经验?
七月在线实验室
10+阅读 · 2019年3月27日
7个实用的深度学习技巧
机器学习算法与Python学习
14+阅读 · 2019年3月6日
资源 | 源自斯坦福CS229,机器学习备忘录在集结
机器之心
18+阅读 · 2018年8月22日
深度学习面试100题(第81-85题)
七月在线实验室
16+阅读 · 2018年8月6日
深度学习面试100题(第76-80题)
七月在线实验室
5+阅读 · 2018年8月3日
深度学习面试100题(第41-45题)
七月在线实验室
13+阅读 · 2018年7月18日
深度学习面试100题(第31-35题)
七月在线实验室
7+阅读 · 2018年7月16日
入门 | 深度学习模型的简单优化技巧
机器之心
9+阅读 · 2018年6月10日
【教程】如何估算深度神经网络的最优学习率
GAN生成式对抗网络
4+阅读 · 2017年11月18日
[学习] 这些深度学习网络训练技巧,你了解吗?
菜鸟的机器学习
7+阅读 · 2017年7月29日
相关论文
A Survey of Deep Learning for Scientific Discovery
Maithra Raghu,Eric Schmidt
27+阅读 · 2020年3月26日
Joost Verbraeken,Matthijs Wolting,Jonathan Katzy,Jeroen Kloppenburg,Tim Verbelen,Jan S. Rellermeyer
31+阅读 · 2019年12月20日
Optimization for deep learning: theory and algorithms
Ruoyu Sun
82+阅读 · 2019年12月19日
Meta-Transfer Learning for Few-Shot Learning
Qianru Sun,Yaoyao Liu,Tat-Seng Chua,Bernt Schiele
6+阅读 · 2018年12月6日
Chunwei Tian,Yong Xu,Lunke Fei,Ke Yan
4+阅读 · 2018年10月11日
A Survey on Deep Transfer Learning
Chuanqi Tan,Fuchun Sun,Tao Kong,Wenchang Zhang,Chao Yang,Chunfang Liu
10+阅读 · 2018年8月6日
Michael Thoreau,Navinda Kottege
7+阅读 · 2018年6月20日
Bi Li,Wenxuan Xie,Wenjun Zeng,Wenyu Liu
7+阅读 · 2018年6月19日
Martin Rajchl,Nick Pawlowski,Daniel Rueckert,Paul M. Matthews,Ben Glocker
5+阅读 · 2018年6月11日
Wenbin Li,Jing Huo,Yinghuan Shi,Yang Gao,Lei Wang,Jiebo Luo
8+阅读 · 2018年5月15日
Top
微信扫码咨询专知VIP会员