让神经网络替你编程：如何用深度学习实现程序自动合成

  新智元推荐  

来源: 微软研究院AI头条

新智元启动 2017 最新一轮大招聘： COO、总编、主笔、运营总监、视觉总监等８大职位全面开放。

新智元为COO和执行总编提供最高超百万的年薪激励；为骨干员工提供最完整的培训体系、高于业界平均水平的工资和奖金。加盟新智元，与人工智能业界领袖携手改变世界。

简历投递：jobs@aiera.com.cn    HR 微信：13552313024

【新智元导读】本文介绍了训练神经网络学习用复杂的函数式语言（FlashFill DSL）进行编程取得的成功，标志着神经程序合成方面一个令人兴奋的突破。

●  作者：Rishabh Singh、Jacob Devlin、Abdelrahman Mohamed和Pushmeet Kohli

●  请点击文末的阅读原文或直接将网址复制至浏览器中打开即可查看原文。https://www.microsoft.com/en-us/research/blog/deep-learning-program-synthesis/

过去几十年间计算科学领域取得了长足进展，但编写计算机软件的实操过程却没有根本性转变——程序员必须使用专门的编程语言，以手工方式一步一步地精确编写程序中各项算法逻辑。尽管多年来编程语言变得越来越友好，但是学习如何编程仍然令大多数计算机用户望而却步。

在一篇新近发表的论文中，我们展示了将深度学习用于程序合成的最新研究成果，试图让深层神经网络学习根据用户意图生成计算机程序。用户只需提供几个输入/输出（I/O）示例来指定所期望的程序行为，系统则据此生成相应的程序。

假设用户希望以特定方式对名单进行格式整理（如下所示）。他只需提供几个输入/输出示例，系统就会自动填充剩余的输出（以浅灰色显示）。如果用户需要处理成百上千个输入字符串，这个程序可以节省大量时间。

该系统采用领域专用语言（DSL）来生成程序。用户无需了解DSL的细节——实际上他根本看不到程序的内容。在我们的DSL中，对应于上述示例的正确程序是：

程序合成中存在两大关键性难点。首先，在我们的表达性DSL中存在数以万计种可能的程序，而其中的正确程序可能是系统从未见过的。其次，由于I/O示例是由真人手工生成的，所以它们通常包含噪声（例如拼写错误等），如上例所示（在第二个输出示例中，Useato被拼错为Uesato）。

以前，解决这个问题的方法（其中最著名的要数微软Excel的FlashFill系统）是依靠手工编写的规则来引导启发式搜索。然而，这种方法使得DSL的能力很难扩展，不仅需要数年积累的手动规则编写，而且对I/O示例中的任何噪声都非常敏感。

而我们的系统RobustFill则利用了深度学习的最新成果，以数据驱动的方式进行程序合成，无需任何手工编写的规则。相反，它借助最先用于语言翻译的注意力型序列到序列神经网络 (attentionalsequence-to-sequence neural network)，以I/O示例为依据生成程序。我们所用神经网络的草图如下，图中提供了详细信息。

我们用了数百万个随机生成的I/O+程序对来对系统加以训练，而且由于能够学习DSL语义，它在现实世界的数据上也有着良好表现。总体而言，我们的系统在一系列真实基准上实现了92％的准确性。特别令人鼓舞的是，即使I/O示例包含显著的噪音，系统也能够保持较高的精确度。

对编程的启示

训练神经网络学习用复杂的函数式语言（FlashFill DSL）进行编程取得成功，这一突破也是朝着实现更为通用的人工智能迈出了虽小却值得关注的一步。它解决这不仅标志着神经程序合成方面一个令人兴奋了纳入可解释性这一关键挑战，而且还触及到将知识的分布式表达与符号式表达相关联的重要课题。

我们目前正在扩展这些神经网络，学习用包含状态变量和控制流的DSL所编写的程序，以期生成更丰富的程序类别。我们认为，沿着这个方向进一步研究，将要求我们去进一步了解和处理程序合成及归纳方面所涉及的最基础的技术问题。

了解更多相关信息：

“RobustFill: Neural Program Learning under Noisy I/O” by Jacob Devlin, Jonathan Uesato, Surya Bhupatiraju, Rishabh Singh, Abdelrahman Mohamed, and Pushmeet Kohli, in arXiv:1703.07469

“Neuro-Symbolic Program Synthesis” by Emilio Parisotto, Abdelrahman Mohamed, Rishabh Singh, Lihong Li, Denny Zhou, and Pushmeet Kohli, in 5th International Conference on Learning Representations (ICLR 2017)

为本文做出贡献的实习生有：Emilio Parisotto（卡内基梅隆大学）、Jonathan Uesato（麻省理工学院）、Surya Bhuptairaju（麻省理工学院）

---

新智元招聘

新智元日前宣布，获6家顶级机构总额达数千万元的PreA轮融资，蓝驰创投领投，红杉资本中国基金、高瓴智成、蓝湖资本 、蓝象资本跟投。本轮融资将用于新智元团队规模扩充并增加新产品服务线，目标打造 To B 的人工智能全产业链服务平台。

职位：客户经理

职位年薪：12 - 25万（工资+奖金）

工作地点：北京-海淀区

所属部门：客户部

汇报对象：客户总监

工作年限：3 年

语　　言：英语 + 普通话

学历要求：全日制统招本科

职位描述：

1. 精准把握客户需求和公司品牌定位，策划撰写合作方案；

2. 思维活跃、富有创意，文字驾驭能力强，熟练使用PPT，具有良好的视觉欣赏及表现能力，PS 能力优秀者最佳；

3. 热情开朗，擅长人际交往，良好的沟通和协作能力，具有团队精神；
   

4. 优秀的活动筹备与执行能力，较强的抗压能力和应变能力，适应高强度工作；

5. 有4A、公关公司工作经历优先；

6. 对高科技尤其是人工智能领域有强烈兴趣者加分。

岗位职责：

参与、管理、跟进上级指派的项目进展，确保计划落实。制定、参与或协助上层执行相关的政策和制度。定期向公司提供准确的市场资讯及所属客户信息，分析客户需求，维护与指定公司关键顾客的关系，积极寻求机会发展新的业务。建立并管理客户数据库，跟踪分析相关信息。

应聘邮箱：jobs@aiera.com.cn 

HR微信：13552313024

新智元欢迎有志之士前来面试，更多招聘岗位请点击【新智元招聘】查看。