神经网络架构搜索旨在针对不同任务,自动化地搜索得到性能最优的神经网络结构,是深度学习、计算机视觉技术结合当前现实需求应运而生的一大重要科学问题。对近年来神经网络架构搜索研究进行梳理、归类和评述;阐述神经网络架构搜索的定义和意义,全方位剖析当前研究所面临的难点与挑战;以此为基础,对主流的搜索策略进行阐述和归纳;探讨研究潜在的问题及未来颇具潜力的研究方向,以期推动该领域的进一步发展。
以深度神经网络[1-2]为代表的人工智能技术 得以飞速发展,已从最初的计算机视觉[3-6]和语 音识别[7] 领域,飞速延伸到如今自动驾驶[8] 、癌 症检测[9] 、机器翻译[10] 、虚拟游戏[11-14] 、人脸识 别[15] 、地震预测[16] 、药物发现[17] 、推荐系统、机 器人等大量科学和技术领域。仅在过去十年间, 深度神经网络相关技术在诸多应用领域便取得了 重大突破,在部分领域,深度神经网络甚至达到超 越人类专家的水平。