360颜水成：AI没有完美算法，人类要处理技术之上的道德困境- 专知

360颜水成：AI没有完美算法，人类要处理技术之上的道德困境

“深度学习或是人工智能没有完美的算法，意味着人类本身一定要处理一些问题。比如自动驾驶领域，你到底是撞前面的人，还是把车右转到车道让自己产生伤亡，道德层面真的不知道该怎么做。”8月11日，奇虎360公司集团副总裁、首席科学家、人工智能研究院院长颜水成在由厚益控股和《财经》杂志联合主办主题为“共享全球智慧引领未来科技”的世界科技创新论坛上如此表示。

颜水成认为，在学术界和工业界，AI技术无外乎三种，一种是非常原创的，我们叫颠覆式创新，还有一种是微创新，第三则是没有创新。其中，学术界的研究成果跟数据、应用场景完全独立，这意味着学术界研究的原创性非常重要，如果没有原创性，就很容易被大家遗忘。

颜水成还表示，他个人认为，中国在机器学习理论上的优秀学者不超过10人，可见，在这一领域，中国人才储备堪忧。

对于技术的安全性，颜水成认为，AI软件的安全性，以及软硬结合的连接安全，都非常重要。除此以外，AI还涉及一些道德层面的问题。比如自动驾驶领域，你到底是撞前面的人，还是把车右转到车道让自己产生伤亡，道德层面实际上是两难。

以下为发言实录：

颜水成：我其实是属于跨界的，因为我本身原来在学术界当教授七年，后来在360已经待了近三年了，以前做计算机视觉。不得不肯定，在过去这些年人工智能发展的速度非常之快，特别是在学术界，大家可以看到每一年跟人工智能相关的学术会议发表的文章越来越多。去年我们做过一个粗略统计跟人工智能相关的会议每年发表的数量有4000多篇，带来一个很大的问题，我们到底到哪儿去寻找足够多的审稿人，能对文章进行正确的审核。今天我不想说人工智能多么红火，大家多看到了。今天我想分享两个人工智能比较长远的话题，原创性和安全性。

在学术界和工业界，AI技术无外乎三种，一种是非常原创的，我们叫颠覆式的技术创新；一种是微创新。三是没有创新，技术在一个领域取得了成功我照搬到另外一个领域来。学术界做人工智能的研究非常有意思，它的研究成果跟数据、应用场景是完全独立的，意味着在学术界做研究原创性变得非常重要，如果没有原创性就很容易被大家遗忘。

因为AI是一个非常大的话题，比如现在最火的深度学习，我们仔细去观察在深度学习领域最原创的，神经网络，再比如生成式对抗网络、深度学习的融合，还有不同的理论和应用。可以看到最初的点其实都不在中国，中国在这个领域更多的是说这个理论，这些出来之后大家觉得非常有意思，一窝蜂出来。比如像Gan，大家发现很有意思之后，计算机视觉领域的CTR，就能看到一堆一堆的文章全部干这样的事。但真正能被大家所记住的还是第一个人GoodFellow提出的Gan。

最近深度学习的发展，大家对理论的期望越来越高，也就是说我们不再只是去调调参数或者设计一个网络上稍微做一点调整。昨天晚上我有一个很有趣的事情，跟我一个好朋友，一个做的非常好的教授，我跟他做一个讨论，我说我们俩要不要把中国做理论的机器学习的做得比较好的研究者全部列出来，我们俩微信来微信去，最后有一个名单。我是比较保守一点的，我说大概有10个，但那个教授更加保守，他说其实只有5个。也就是在中国做这个领域，人才的储备是非常少的。

这也不要那么悲观，现在国家特别新一代人工智能的战略出来之后，对大家来说是一个很好的契机，尤其做的比较好的研究者可以留在学校慢慢在这方面做一些比较好的贡献。

工业界稍微会有一些不一样，工业界和学界很不一样，它就是要解决一个问题，我有一个数据，产生一个模型，应用到我的产品里，如果不工作就要去想办法，去侦查我的数据让我这个应用的场景，在我推广的范围之内。一个业务的成功取决的因素不只是技术，像技术、产品，最终用户，也包括我们的团队，意味着什么？即使你只做非常一般的研究，也是一个比较优秀的公司。如果这个公司能有足够的投入，比如你可以专注在这些比较原创的技术，而且把技术用在产品中的话意味着你最终不只是一个好公司，可能是一个great公司，《从优秀到卓越》，你更加在乎它的话可能会成为一个卓越的公司。中国卓越的公司还是比较少，但我们已经具备这个条件了，我们有好几个公司成为在世界范围内巨头的公司，他们有足够的财力去组建相应做技术研发的部门，瞄准的是三五年时间的产出，而不是一年，甚至更长时间的投入。所以我觉得机会还是非常有的。

另外一个维度，我想分享的是安全。可能大家现在思考的还不是非常多，但其实非常关键。360作为一家安全公司我们在这方面有非常多的探索，比如第一点软硬结合之后对智能硬件我们会用传感器，比如照相机，但其实是非常脆弱的，很容易被攻破的。比如一个摄像头拿激光笔对着它，那它很快就会自盲。还有一个领域可能大家思考非常少，就是会有老化的问题，那它获取到信息的精准度没有以前那么高了，现在人工智能的算法都是不停的调优调出来的，之后到底它产生什么样的影响，以前的模型到底是不是能工作，整个社会基本上没有做任何的探索，这是第一点。

第二点，AI软件的安全性。这一点360研究比较早，它多是建立在底层的SDK上的，这些SDK可能里面也有bug，比如我们做一个图象识别的算法部署到服务器上，黑客利用软件的漏洞可以在图片上加一些信息进去，这个图片就可以让我的服务系统，或者陷入死循环，或者没有办法获得系统的控制权限，这些也是我们平常想的非常少的。

第三点，软硬结合的时候，意味着连接变得不可或缺。连接之后意味着黑客就有机会渗透到你的智能硬件里面了，他想做什么样的事就他说了算。

另外可能还涉及到道德层面上的问题，比如说我们基本上有一个观点，深度学习或者人工智能是没有完美的算法，就意味着你一定要处理一些问题，比如你做自动驾驶，在这个上面就一定要控制，你到底是撞前面的人还是把车右转到车道让自己产生伤亡，这个从道理层面真的不知道该怎么做。总的来说我想说的是，原创性和安全性非常重要，如果想要您自己和您的AI公司能活的更长更久更优秀，这两个维度可能是大家真的要花时间去关注的点。

谢谢大家！

来源：

http://economy.caijing.com.cn/20180811/4499338.shtml

专 · 知

人工智能领域主题知识资料查看与加入专知人工智能服务群：

专知AI知识技术服务会员群加入与人工智能领域26个主题知识资料全集获取。欢迎微信扫一扫加入专知人工智能知识星球群，获取专业知识教程视频资料和与专家交流咨询！