腾讯研究院司晓：秉承科技向善，谨慎乐观地面对挑战

2019 年 1 月 22 日 腾讯研究院

2019年1月11日，腾讯研究院主办的第二届科技向善论坛在北京时间博物馆召开。

腾讯研究院院长司晓在会上表示：随着技术的不断变革，社会将会面临比现在更大的转变和挑战，对此，我们有理由保持谨慎乐观的态度、秉承科技向善的理念去面对和解决这些挑战。科技向善应是得到全社会认同的理念和平台。作为大企业，有更多资源、能力和责任反思与引领科技向善的潮流。

以下为演讲全文：

谢谢大家！我想从最近参加的两个活动见闻谈起，和大家分享下我的观点。

我和我的同事刚刚参加了一个关于如何更好地让通用人工智能造福人类的国际峰会（Beneficial AGI 2019）。这个会的组织者包括MIT的迈克斯·泰格马克教授，Skype创始人让·塔林和埃隆·马斯克等知名人物。

来自谷歌、Deep Mind、斯坦福、北大、清华、牛津、剑桥等全球二十多个国家的200多位的顶级计算机专家，科学家和法学伦理学专家参加了这场峰会。会议就通用人工智能的安全、人类未来生存、脑机接口、意识上传等未来话题展开了深入探讨。会议最终达成了通用人工智能应当追求的十大目标，包括物质充盈、渐进主义、人类福祉、鲁棒性、多样性、可持续性、繁荣、和平、幸福、无疾病等。

腾讯作为唯一中国企业受邀参加，会上我们也分享了马化腾先生在去年归纳的人工智能伦理四可原则——可知”、“可控”、“可用”和“可靠”。翻译成英文，刚好是四个字母ARCC（Available, Reliable, Comprehensible, and Controllable，读作ark），发音就像方舟ARK，很有寓意。

两年前，这些专家在加州的阿西洛马签署了著名的人工智能23原则，被认为是奠定了人工智能发展的伦理框架。44年前，在阿西洛马也发生过一个载入生物学史册的重组DNA的会议，140名各界专家讨论了生物科技的潜在影响及其规制，达成了自愿性的指南，旨在确保重组DNA技术的安全。时隔四十年的两次会议都是在探讨如何用我们的伦理规则、法律规则将技术框定在一个对人类有益或向善的范围内。

无论是刚刚结束的Beneficial AGI 2019，还是两年前的23原则，又或者是44年前的重组DNA会议。他们在讨论的问题其实都可以被归纳为对科技在发展过程中可能出现的问题的讨论，如果用一个更简单的描述来说，就是如何让科技向善。

因此，科技向善的话题可以大到防止科技脱轨，危害人类自身的生存，也可以小到用技术防止离屏幕过近损伤视力。他们都是对于如何规范新科技，使得科技的发展有利于人类整体最高的福利。

我想要分享的第二个活动，是北大的游戏学星海研究项目启动论坛。这是一个致力于以科学研究与理论为支撑去挖掘游戏正向价值，解决游戏社会问题的项目。

在启动论坛上，我也分享了我的观点：在PC互联网时代，最火爆的游戏活跃用户也只能是几百万量级，而在移动互联网时代这个量级直接达到千万甚至上亿的规模。其根本原因是之前没有如此普及、高性能而且能够随时联网的终端，同时这些终端的操作方法也从门槛较高的键盘鼠标变成了更傻瓜式的触摸。

而恰恰因为这些技术的进步，才会有更多的未成年人被卷入其中，也产生了一些问题。所以，我们要正视这些技术进步所带来的问题，并同样通过技术的进步去解决它。

最近一年来，腾讯用人脸识别等金融级的技术手段识别未成人用户，通过DN.A等项目培育孩子家长的网络素养，通过未成年人成长守护平台和weteam等工具，给家长提供一个有温度的管理工具，帮助像我们这样，在成长阶段没太经历过互联网的家长，与他们的孩子进行良性互动，形成数字时代的和睦亲子关系。

所以说，移动互联网的冲击绝不仅在游戏这个领域，更重要的是，移动互联网第一次把数字原住民，我们这一代的数字移民以及被戏称为“数字难民”的老年人，三代人叠加在一起。

作为原住民来说——比如我的女儿——她每次无论看到我戴什么手表，过来都要先划一下，如果划不动她就觉得我的手表坏了。这其实并不一定是错的，未来也许就是所有手表都是触摸的，可触摸的手表才是“常识”。

而对于“数字难民”来说，为什么我们会认为老年人更容易在互联网上相信谣言？其实时光往回倒退20年，现在我们这些老网虫也都相信过PC互联网上的那些谣言。而对于现在刚刚接入移动互联网的老年人来说，他们没有经历过PC互联网时代的洗礼，自然对有害信息缺乏识别能力和免疫力，容易成为受害者。

因此，回看每一次技术演进对社会影响的变化都有一个共性，就是先从技术设备的快速普及开始，这种普及会造成某种普遍的社会现象，进而出现对这种现象的担忧，引发讨论、反思和解决方案，最终达到一个平衡的状态。如果大家回想一下，我们上一次我们集中讨论网瘾、游戏成瘾的问题的时候，实际上刚好是在十年之前，PC互联网飞速普及的时候。

同样的例子也出现在电视出现时，人们担心娱乐致死，沦为沙发土豆[1]。又比如PC互联网时代人们突然面临海量信息担心信息爆炸个人过载。再到移动互联网时代，许多服务都可在足不出户通过手机获得，反而引发了对手机过度依赖的恐慌。

在下一个十年、二十年，当AR、VR普及、甚至脑机接口打开时，我们必将会面临比现在更大的转变和挑战，《头号玩家》、《黑镜》给我们描述了VR时代人们逃避现实进入虚拟世界生活，工作的场景。那时VR世界不仅是游戏，而是与现实世界平行生活的虚拟时空，是生活和工作的另一种方式。相信那时，肯定有许多像科幻作品中那样关于究竟是活在现实世界还是虚拟世界的争辩。

再往前，我们可以想像一下如果脑机接口被打开后的世界。

那时，人机的界限就会彻底模糊，人将成为终极意义上的终端和设备。在过去，我们虽然可以眼观六路、耳听八方，但我们只有一张嘴，当我们向他人描述你的想法只能通过声音与文字。所以，其实你可以瞬间了解环境信息，但由于语言是你的输出方式，是一个绝对的瓶颈，你发现讲了半天对方才接受到一点点信息。脑机接口打开后这个场景下你只需要授权对方读取你的信息，或者调用下你的眼球。

但随之而来的，我们也可以想象一下那个时代，语言这种低效的沟通方式还会不会存在，恋人间还如何保有自己的私人空间，隐私被黑客入侵完全读取的后果。

上面的描述一定让大家很恐慌，但我觉得我们应该保有一个乐观的态度。因为我们回望那些已经发生的技术变革所带来的问题，比如核技术，生物科技，电视、PC互联网带来的，其实随着时间和技术本身的继续发展，伦理的反思，规则的建立，有的已经解决、有的正在解决，几乎没有任何一个问题是解决无望以至于我们不得不放弃那种技术的。

而且，我们能看到的是，对于在新技术下成长起来的下一代来说，总是有着比我们老一代更优秀的问题处理能力。比如危害“数字难民”一代的诈骗信息，养生类谣言，对于我们这代“数字移民”来说就不是什么问题，而且我们找到了有效机制来识别和打击。而对于下一代数字原住民，VR 原住民，脑机接口原住民来说，我们现在预想和恐慌的这些问题在他们的时代不一定是一个问题，而真正出现的问题很可能是我们完全没有想到的。

所以我们对未来一代驾驭科技的能力的担忧，恐怕很大程度上是多余的。他们对于信息的处理“带宽”和速度，新问题解决的智慧和方法，可能超出我们的想象，是我们的十倍甚至百倍。

所以当下我们更应该聚焦那些已经发生的，或马上就要发生的问题，或者说“属于我们这一代”的问题，比如当前的未成年人保护、大数据与隐私问题、外卖的过度包装问题以及正在显现的人工智能的伦理问题。未来人工智能、脑机接口这些技术的发展会涉及到更广泛的伦理、就业、社会结构的影响，更加需要对科技向善的讨论，相信未来我们的下一代一定会有比我们更宽广的视野和更高的智慧去解决这些问题，我们关于科技向善的讨论才刚刚开始。

这是我们第二次科技向善大会，给大家汇报一下：

去年，我们首次论坛从一个小的切口讲了信息过载、手机和数字设备过度使用的问题。也面向社会公开征集了一个创意，让大家共同通过漫画也好、动画也好来去表达手机过度使用带来的问题，我们也很高兴收到了300多个短视频，非常有创意。非常巧合，2018 年发布的 Android 9和iOS 12中都加入了时间管理的功能，既能限制整体使用时间，也能限制某个App的使用。

除此之外，科技向善也在腾讯的一些产品上实现了功能落地。比如说我们的《较真》辟谣平台以及微信上的谣言过滤器，其实都是在通过社会化众包以及向科学家专业机构定向邀请，让他们去鉴定新闻的真伪或者是是否谣言，用社会资源去鉴定这个内容。

同时我们会在微信的公众号里——在你授权的情况下——当你读过，尤其是当你父母读过这些虚假、养生类的谣言时，系统就会主动来告诉你，你前两天读的某一个内容是谣言内容。

还有腾讯视频的护眼模式，通过前置摄像头测距，当孩子看视频离屏幕太近时，它就会自动暂停并提醒你有利健康的观看方式。腾讯的创始人张志东先生以他自己的名义设定了一个内部的科技向善奖项，来奖励这些好的产品功能。

大家来的时候走过了一个展厅，那个展厅里面有美团的青山计划，致力于解决外卖过度包装的问题；快手的全方位未成年人保护计划解决孩子在一个内容平台中如何健康探索世界的问题；DataVisor一家人工智能公司致力于解决网络“水军”与“诈骗”的问题。

我们也非常高兴看到在公司内外有越来越多人加入我们讲的科技向善概念里，甚至我们在公益的峰会里面也会把科技向善、理性公益作为理念，我们在法律数据的合规工作中，也会把我们的科技向善、数据有度作为它的理念去讲。非常高兴地看到越来越多人认可这个概念。

在刚才的演讲环节和发言环节，我听到吴晨先生发言，我作为一个技术的乐观主义者以及对互联网更积极的用户，我觉得他对科技行业的许多担忧有些太重了。那些对美国互联网巨头的批评也是对我们的批评，至少是一种警醒。

这种警醒让我们认识到问题所在，更好的反思，包括我们今天抛出来的十问，是问大家，更是问我们自己。

我也很高兴看到很多老师在这些问题与担忧上谈到一些解决方案，这也正是我们搭建这个平台的意义所在，希望有更激烈的观点碰撞。

在解决这些问题时，我们要找到大公司、领军企业应该扮演的角色，相比创业者我们更有资源和能力去做反思和引领性的事情。科技向善已经在我们公司上下得到了广泛的认同，我们还需要努力把它落在更多的产品和功能里。

我们也希望用科技向善的理念，进一步地去团结更多的研究者，更多的同行、产品经理包括技术工程人员。大家在用技术、用商业化的思维去做产品的时候，也同时希望能够建立这么一个向善的理念，大家共同把我们的技术用到对人类有益的方面，谢谢大家！