【CVPR2020-CMU】无数据模型选择,一种深度框架潜力

2020 年 4 月 12 日 专知


在需要平衡性能和参数效率的应用中,选择深度神经网络结构是一个基本问题。标准方法依赖于特定数据集上的特别工程或计算上昂贵的验证。相反,我们试图通过网络的内在能力来量化网络的独特性和健壮性,从而在不需要任何数据的情况下进行有效的架构比较。基于深度学习和稀疏逼近之间的理论联系,我们提出了深度框架潜力:一种与表征稳定性近似相关的相干性度量,但具有仅依赖于网络结构的最小值。这为联合量化架构超参数(如深度、宽度和跳过连接)的贡献提供了一个框架。我们验证了它作为模型选择标准的作用,并证明了它与各种通用残差和密集连接的网络架构上的泛化误差之间的相关性。


专知便捷查看

便捷下载,请关注专知公众号(点击上方蓝色专知关注)

  • 后台回复“DMS” 就可以获取【CVPR2020-CMU】无数据模型选择,一种深度框架潜力》专知下载链接

专知,专业可信的人工智能知识分发,让认知协作更快更好!欢迎注册登录专知www.zhuanzhi.ai,获取5000+AI主题干货知识资料!
欢迎微信扫一扫加入专知人工智能知识星球群,获取最新AI专业干货知识教程资料和与专家交流咨询
点击“ 阅读原文 ”,了解使用 专知 ,查看获取5000+AI主题知识资源
登录查看更多
0

相关内容

最新《深度多模态数据分析》综述论文,26页pdf
专知会员服务
298+阅读 · 2020年6月16日
【CVPR2020-Oral】用于深度网络的任务感知超参数
专知会员服务
26+阅读 · 2020年5月25日
【CMU】深度学习模型中集成优化、约束和控制,33页ppt
专知会员服务
45+阅读 · 2020年5月23日
【CVPR2020-港中文】 图像识别中的自注意力探索
专知会员服务
55+阅读 · 2020年4月29日
【CVPR2020】MSG-GAN:用于稳定图像合成的多尺度梯度GAN
专知会员服务
28+阅读 · 2020年4月6日
Arxiv
35+阅读 · 2020年1月2日
VIP会员
Top
微信扫码咨询专知VIP会员