CCCF动态 | 人工智能时代 隐私和效率的平衡

2019 年 5 月 28 日 中国计算机学会


3月23日上午,CCF YOCSEF在北京举办论坛“人工智能时代,隐私和效率一定是不可调和的吗?”,邀请业内专业人士以隐私和效率为主题,讨论人工智能时代数据资产的发展之路,为中国人工智能产业发展献计献策。


关键词:隐私 效率 人工智能


论坛现场


人工智能的发展离不开数据的支撑,它带来数据聚集的同时也让数据获取变得容易。数据作为一项重要资产越来越被人们重视,更为重要的是很多数据,如消费习惯数据、医疗数据、上网数据,交际、运动、饮食等产生的大量数据,都涉及到个人隐私,而这些数据又不可避免地在日常生活中被智能设备采集。在今年的3·15晚会上,就曝光了一些企业利用所谓的“高科技”手段,包括智能语音机器人、探针盒子等技术,给用户拨打骚扰电话,或者在公共场合窃取周围人的隐私信息。在获得人工智能发展和便利的同时,社会效率得到了很大提升,但隐私信息被逐渐公开化,隐私保护和效率出现了悖论。


3月23日上午,CCF YOCSEF在北京举办论坛“人工智能时代,隐私和效率一定是不可调和的吗?”,邀请业内专业人士以隐私和效率为主题,讨论人工智能时代数据资产的发展之路,为中国人工智能产业发展献计献策。本次论坛由YOCSEF学术委员、曙光公司吴宗友博士和YOCSEF学术秘书、滴滴出行吴国斌博士共同担任执行主席,CCF YOCSEF学术秘书、北京交通大学李浥东博士和YOCSEF学术委员、360公司陶耀东博士共同担任在线执行主席。论坛邀请了中国人民大学教授孟小峰,中国政法大学传播法研究中心研究员朱巍,360行业安全研究中心裴智勇博士和中科院计算所研究员韩银和作为特邀嘉宾发言,现场和线上有近200余人对这一话题进行了思辨。


人工智能时代的数据生态


大数据应当放在数据生态中加以考量,以第三者的视角看待,以云计算平台移动互联网方式存在,使得数据在内容和形式上发生改变,由以企业描述变成以人描述为主,在技术上建立数据思维的方法来利用数据,利用智能算法发挥数据的效用。

      

数据垄断已经形成,如何加以有效治理是当下的紧迫任务。孟小峰教授的科研团队近期依据3000万移动用户的数据集,包括162个维度用户画像,爬取到30万个APP相关用户使用的信息,并基于此做出了风险指数,用以描述地域的风险、行为的风险、人群特征上的各种风险。从这一研究不难发现,当下10%的数据收集者获取了用户99%的数据,数据的垄断已经形成。

      

建立数据透明的治理体系是解决人工智能时代效率与隐私的关键,中国应当先走一步。这个体系建立的过程包括数据收集和决策,在数据收集之前要考虑用户个人数据,收集之后应该考虑数据来源的真实性,否则做出的决策是不可靠的。其次在决策阶段,主要的挑战在于过程的透明化和可解释性上。民众希望国家相关部门的决策过程公开透明和可理解。


网络隐私与信息安全常见的三个误区


误区一:用户和消费者是一回事

《电子商务法》中的消费者和《网络安全法》中的用户是两个不同的名词,用户权和消费者权也不是一回事。在互联网免费经济时代,不能用现金对价,但可以用数据来换取对价。用户有可能变成消费者,用户和消费者的界限是模糊的。在当前社会中,隐私的价值已经确定,但控制在谁的手里,这是法律和技术相关人员应该关注的问题。


误区二:大数据和个人信息是一回事

大数据不一定直接或间接识别到个人信息。如果大数据和个人信息这两个概念分不清楚,用保护个人信息的态度去看待大数据,数据经济无法发展。


误区三:数据权和人格权是一回事

数据权在未来的背景之下,将涵盖所有的具体人格权,它会产生新的一般人格权。


尊重隐私高于市场价值


隐私是超越资产属性的,类似于人格权利,它应该是人类文明或尊严的表现。当用隐私去交换其他利益时,要以尊重隐私为最优先原则,然后再判定其价值。其次,第三方持有用户的隐私并不可怕,但第三方持有人要做到两点:一是“不扩散原则”,包含不能被黑客窃取等任何形式的主动、被动扩散,谁持有谁负责;第二,要做到对隐私所有人的“有利原则”,不能利用用户隐私反向宰熟。在具体技术实现上,目前隐私所有人和第三方数据采集人之间的入口式条款合同制,无法应对隐私数据的可复制性和无形性,需要有过程管理的新型隐私管理模式。


隐私保护技术和政策


应用程序(APP)获取个人信息应遵循三个原则。第一是最小必要原则,即APP获取的信息是不是服务的必要数据,应该取得最小必要的范围,比如手电筒获取通讯录显然超出这个原则。第二是用户知情原则,即第一次使用该APP的时候应该提示用户是否开启某项服务。第三是必要保护原则,即APP收集用户的数据,要保证数据不被泄露、不被贩卖、不被滥用。此外,让数据的所有者、运营者和安全防范方分开,即三方制衡。


数据(包括隐私数据)应该在强立法的基础上明确化、产品化、市场化。而当前却是模糊化的,不同的人获取数据的难易程度和代价相差巨大。更严格的立法可以使每个人包装自己的数据,根据法律规定和个人意愿,让市场来决策,这样才能使隐私数据发挥更大的作用。


隐私和效率问题前途光明,道路曲折


解决隐私和效率问题的根本出发点是促进当下大数据生态健康有序地发展,而不是加以扼杀。这需要我们从技术和政策角度多方位考虑,前途是光明的,但道路是曲折的。

      

随着人工智能的发展和技术的进步,数据的聚集对隐私的威胁必然存在。而因物质的极大丰富,人们对隐私保护的追求愈来愈强烈,两者看似不可调和。本次论坛通过讨论和思辨,让参会者对隐私、效率、数据、用户、消费者等概念有了多维度的深入理解。我们也希望本次论坛对未来隐私保护法的出台以及人工智能发展对应的政策支撑有一定的借鉴意义。


作者介绍

吴宗友

CCF理事,YOCSEF AC委员。曙光信息产业股份有限公司副总裁、山西国科晋云先进计算有限公司董事长。

wuzy@sugon.com

作者介绍

吴国斌

CCF YOCSEF学术秘书、AC委员。北京嘀嘀无限科技发展有限公司科技合作总监,大数据分析与应用技术国家工程实验室副主任。

wuguobin@didiglobal.com



CCF推荐

【精品文章】


点击“阅读原文”前往CCF数图相关栏目


登录查看更多
0

相关内容

孟小峰,CAAI社会计算与社会智能专委会主任、中国人民大学教授、CCF Fellow。主要研究领域包括数据智能、数据治理、社会计算与社会智能等交叉学科。ACM中国SIGSPATIAL分会主席。发表学术论文200多篇,出版专著“网络与移动数据管理”3部曲等。曾获省部级特等奖1次、二等奖3次,中国计算机学会“王选奖”一等奖、第三届北京市高校名师奖等。
专知会员服务
123+阅读 · 2020年3月26日
【中国人民大学】机器学习的隐私保护研究综述
专知会员服务
131+阅读 · 2020年3月25日
《人工智能2020:落地挑战与应对 》56页pdf
专知会员服务
195+阅读 · 2020年3月8日
报告 |事理图谱的构建及应用,附61页pdf
专知会员服务
189+阅读 · 2020年1月17日
【大数据白皮书 2019】中国信息通信研究院
专知会员服务
137+阅读 · 2019年12月12日
CNCC技术论坛丨新型持久内存系统与安全
中国计算机学会
7+阅读 · 2019年9月15日
Python数据分析案例实战
炼数成金订阅号
5+阅读 · 2019年5月9日
CCFTF17(上海):认知计算产业化如何落地
中国计算机学会
4+阅读 · 2019年4月28日
【专题】美国隐私立法进展的总体分析
蚂蚁金服评论
11+阅读 · 2019年4月25日
如何做数据治理?
智能交通技术
18+阅读 · 2019年4月20日
杨强教授:AI算法重点转向关注数据安全隐私
极市平台
11+阅读 · 2019年2月17日
CCCF专栏 | 联邦学习
中国计算机学会
26+阅读 · 2018年11月19日
智能时代如何构建金融反欺诈体系?
数据猿
12+阅读 · 2018年3月26日
易观联合清华海峡研究院成立人工智能实验室
Analysys易观
4+阅读 · 2017年10月28日
Adversarial Transfer Learning
Arxiv
12+阅读 · 2018年12月6日
Multi-task Deep Reinforcement Learning with PopArt
Arxiv
4+阅读 · 2018年9月12日
Arxiv
11+阅读 · 2018年5月13日
Arxiv
9+阅读 · 2016年10月27日
VIP会员
相关资讯
CNCC技术论坛丨新型持久内存系统与安全
中国计算机学会
7+阅读 · 2019年9月15日
Python数据分析案例实战
炼数成金订阅号
5+阅读 · 2019年5月9日
CCFTF17(上海):认知计算产业化如何落地
中国计算机学会
4+阅读 · 2019年4月28日
【专题】美国隐私立法进展的总体分析
蚂蚁金服评论
11+阅读 · 2019年4月25日
如何做数据治理?
智能交通技术
18+阅读 · 2019年4月20日
杨强教授:AI算法重点转向关注数据安全隐私
极市平台
11+阅读 · 2019年2月17日
CCCF专栏 | 联邦学习
中国计算机学会
26+阅读 · 2018年11月19日
智能时代如何构建金融反欺诈体系?
数据猿
12+阅读 · 2018年3月26日
易观联合清华海峡研究院成立人工智能实验室
Analysys易观
4+阅读 · 2017年10月28日
相关论文
Adversarial Transfer Learning
Arxiv
12+阅读 · 2018年12月6日
Multi-task Deep Reinforcement Learning with PopArt
Arxiv
4+阅读 · 2018年9月12日
Arxiv
11+阅读 · 2018年5月13日
Arxiv
9+阅读 · 2016年10月27日
Top
微信扫码咨询专知VIP会员