面对人工智能引发的全球信任焦虑,发展可信人工智能已经成为全球共识。2019年6月,二十国集团(G20)提出“G20人工智能原则”,强调要以人为本、发展可信人工智能,这一原则也得到了国际社会的普遍认同。欧盟和美国也都把增强用户信任、发展可信人工智能放在其人工智能伦理和治理的核心位置。将抽象的人工智能原则转化为具体实践,落实到技术、产品和应用中去,是回应社会关切、解决突出矛盾、防范安全风险的必然选择,是关系到人工智能长远发展的重要议题,也是产业界急需加快推进的紧迫工作。

论坛上发布了由中国信通院与京东探索研究院联合撰写的国内首本《可信人工智能白皮书》,白皮书从如何落实全球人工智能治理共识的角度出发,聚焦于可信人工智能技术、产业和行业实践等层面,分析了实现可控可靠、透明可释、隐私保护、明确责任及多元包容的可信人工智能路径,并对可信人工智能的未来发展提出了建议。

http://www.caict.ac.cn/kxyj/qwfb/bps/202107/t20210708_380126.htm

白皮书内容简介

本白皮书首次系统提出可信人工智能全景框架,全面阐述可信人工智能的特征要素,剖析了可信人工智能与人工智能科技伦理和治理的关系,促进业界更好的理解可信人工智能。

本白皮书针对可信人工智能中各种支撑技术从理论层面进行了深入浅出的剖析。将技术以稳定性、可解释性、隐私保护、公平性作为量化指标进行了完备的讨论,这些技术构成了可信人工智能地基础支撑能力。

本白皮书创新地从企业和行业实践视角详述可信人工智能的实践路径,是一份极具参考价值的实操指南,对于产业界进一步落实人工智能伦理及治理要求具有重要意义,能够切实推动人工智能产业健康发展。

本白皮书以动态的眼光分析可信人工智能发展脉络,同时对当下社会各界实践可信人工智能、完善可信生态,提出了务实的方案和发展建议。

本白皮书认为,可信人工智能已经不再仅仅局限于对人工智能技术、产品和服务本身状态的界定,而是逐步扩展至一套体系化的方法论,涉及到如何构造“可信”人工智能的方方面面。

下图给出了可信人工智能的总体框架。

成为VIP会员查看完整内容
0
34

相关内容

数据安全问题由来已久,尤其在数据上升为新型生产要素后,面临的数据泄露风险和监管要求力度越来越大。然而,当前的行业数据安全治理处于发展初期,企业整体数据安全治理能力参差不齐,提升数据安全治理能力成为数字经济时代的紧迫议题。

日前,在2021中国互联网大会——数据治理高峰论坛上,中国信通院发布了《数据安全治理实践指南(1.0)》(以下简称“指南”)。

由于数据本身具有流动性、多样性、可复制性等不同于传统生产要素的特性,数据安全风险在数字经济时代被不断放大,因此对数据安全治理的要求也越来越高。如何协调政府、行业、企业、个人等多元主体,形成协同共治机制?如何平衡数据开发利用和数据安全保护,实现发展与安全的齐头并进?如何构建覆盖数据全生命周期安全的治理框架?如何在各组织中落实数据安全治理的具体要求?这些都是当前数据安全治理面临的重要问题。

本指南参考数据安全领域的相关标准,重点以中国互联网协会T/ISC-0011-2021《数据安全治理能力评估方法》为基础,阐述了数据安全治理的内涵;从组织如何落实数据安全治理要求的角度出发,提出数据安全治理总体视图;按照数据安全治理目标、治理框架、治理实践路径分别提出落地建议,并对未来发展进行展望。此外,指南还收录了部分企业开展数据安全治理的实践经验。

http://www.caict.ac.cn/kxyj/qwfb/ztbg/202107/t20210720_380788.htm

成为VIP会员查看完整内容
0
10

摘要: 随着人工智能时代的到来,各行各业均开始结合自身业务需要部署人工智能系统,这全面加速了全球范围内人工智能规模化部署和应用进程。然而,人工智能基础设施、设计研发以及融合应用过程中面临的安全风险也随之而来。为了充分规避风险,世界各国纷纷采取制定人工智能伦理准则、完善法律法规和行业管理等方式来进行人工智能安全治理。在人工智能安全治理中,人工智能安全技术体系具有重要指导意义。具体而言,人工智能安全技术体系是人工智能安全治理的重要组成部分,是落实人工智能伦理规范和法律监管要求的重要支撑,更是人工智能产业健康有序发展的重要保障。然而,在当前阶段,全球范围内人工智能安全框架普遍缺失,安全风险突出且分立,迫切需要对人工智能各生命周期存在的安全风险进行总结与归纳。为解决上述问题,文中提出了涵盖人工智能安全目标、人工智能安全分级能力、人工智能安全技术和管理体系的人工智能安全框架,期待为社会各界提升人工智能安全防护能力提供有益参考。

成为VIP会员查看完整内容
0
14

本白皮书从人工智能治理的实际问题出发,结合当前人工智能治 理在国内外的发展现状,提出了人工智能治理的6条基本原则,并在 基本原则的基础上给出具体的行动建议,期待为社会各方提供有益参考。

作为引领未来的战略性技术,人工智能的迅猛发展将进一步释放历次科技革 命和产业变革积蓄的巨大能量,给全球经济发展、国家治理、社会建设和人民生 活带来重大而深远的影响,推动人类迈入以科技进步与产业革新为基础的智能社 会。但也应该看到,人工智能在创造经济发展新引擎、推动人类文明迈上新台阶 的同时,模糊了虚拟与现实、数字和实体的界限,给人类社会的法律规范、道德 伦理、公共治理等方面带来了挑战。最近几年,人工智能负面案件频出,引发了 很多关于音视频造假、监控隐私、算法偏见、创作版权、就业等各个方面的社会 性问题。因此对人工智能治理的研究迫在眉睫,只有通过深入的研究把握技术的 本质特点,通过务实的行动控制潜在的风险,通过充分的沟通获得人们的信任, 才能消除人工智能发展进程中的阻碍,促进人工智能对人类福祉的提升。

https://www.zhizhi88.com/wp-content/uploads/2021/06/white_paper_on_artificial_intelligence_governance_-v1-0-_public_version.pdf

成为VIP会员查看完整内容
0
24

近日,在全国信息安全标准化技术委员会2021年第一次工作组“会议周”上,由中国移动通信集团有限公司、中国电子技术标准化研究院、中国信息通信研究院等15家企事业单位共同编制的《5G网络安全标准化白皮书》(以下简称:白皮书)正式发布。该白皮书将作为下一步制定5G相关标准的指导性文件,在5G网络安全保护工作中扮演重要角色。

  白皮书介绍了5G的概念、关键技术和产业发展情况,梳理了国内外政策法规标准现状,分析了5G在终端安全、IT化网络设施安全、通信网络安全、行业应用安全、数据安全、网络运维安全等方面存在的安全风险和网络安全标准化需求。

  此外,白皮书在充分调研国内外5G网络安全发展情况的基础上,针对5G典型应用场景和关键环节,研究提出5G网络安全标准框架,给出了标准化工作推进建议,旨在为5G技术安全应用、5G与产业融合安全有序发展提供标准化技术支撑,为规范引导5G网络安全标准化工作提供参考。

成为VIP会员查看完整内容
0
21

未来,智慧城市将从城市数字化发展到数字化城市,整个城市在数字领域形成“数字巨系统”。

近日,由国家工业信息安全发展研究中心、联想集团、中国产业互联网发展联盟、工业大数据分析与集成应用实验室共同编制的《依托智慧服务,共创新型智慧城市——智慧城市白皮书(2021年)》(以下简称“白皮书”)正式发布。本书提出一系列智慧城市建设的新理念、环境友好的新型智慧城市提供参考。

以发展实践拓展新型智慧城市内涵

新型智慧城市建设是进一步深入贯彻习近平新时代中国特色社会主义思想,结合我国城市发展实际,顺应信息化和城市发展趋势,主动适应经济发展新常态、培育新的增长点、增强发展新动能而提出的新型城市建设与发展方式。

习近平总书记2016年4月在网信工作座谈会上指出,“要以信息化推进国家治理体系和治理能力现代化,统筹发展电子政务,构建一体化在线服务平台,分级分类推进新型智慧城市建设”。2020年3月,习近平总书记赴浙江考察时指出,通过大数据、云计算、人工智能等手段推进城市治理现代化,大城市也可以变得更“聪明”。

白皮书对从2008年开始我国智慧城市发展经历的探索期、调整期、突破期、全面发展期等几个阶段进行了梳理,这些阶段智慧城市的服务对象、服务内容非常广泛,但核心主线是“利用新一代信息技术”提升城市服务质量。经过2020年的疫情冲击,智慧城市在实践中经受了考验,但也存在很大的进步空间。后疫情时期,智慧城市建设在创新协同、为民服务、数据共享、产业赋能、应急安全等方面都出现了新的发展导向。

白皮书指出,未来新型智慧城市或将呈现以下特点:“先进技术+全程服务”成为智慧城市的新抓手;“数字空间+现实空间”成为智慧城市的新落脚点;“普惠民生+生态和谐”成为智慧城市的新目标。

“端边网云智”架构助力优政、兴业、惠民创新

新型智慧城市的建设逻辑需从顶层入手,结合软硬件资源整合能力,为公众提供全生命周期一站式服务管理。白皮书从技术角度,将智慧城市的整体框架分为发展战略层、技术实施层和目标效用层三大层次。即新型智慧城市是以城市的战略定位、建设规划、措施保障、组织合作为指导规划,通过“端-边-网-云-智”的技术架构,实现管理高效、服务便民、产业发展、生态和谐的目标效用,达成新一代信息技术与城市现代化深度融合,迭代演进的新模式。

其中,“端-边-网-云-智”作为新型智慧城市的技术实施层,蕴含巨大的创新发展空间,有望成为我国智慧城市技术应用方向的重要创新成果。

端”即智能终端,负责采集、存储、传递数据,是智慧城市面向城市主体的智能化单元。

“边”即边缘计算,智能化时代海量数据的爆发式计算需求与应用低时延、灵活部署要求使得计算力下沉成为必然,边缘计算应运而生。

“网”即以5G为代表的数据传输的网络,是推动端、边、云协同工作的粘合剂。

“云”即云计算,基于网络实现异质设备间数据运算与共享的设备服务。

“智”即行业智能解决方案,面向智慧城市的不同细分场景,基于“端、边、网、云”四层结构,根据业务需求、行业知识及计算能力,支持不同层次的数据计算和分析互动的行业智能化方案。

智慧城市建设是内涵型城镇化发展的重要方面,包括社会管理智能化、国民经济信息化、环境维护自动化和生活服务便捷化等内容。管理高效、服务便民、产业发展、生态和谐等均是新型智慧城市发展的目标方向。

白皮书重点分析了文昌智能教育、延庆智慧能源、上海帝王蟹溯源等典型案例,展示了新型智慧城市在优政、兴业、惠民等方面取得的突出成效。据悉,联想凭借领先的IT运维服务经验和覆盖网络,智慧城市服务建设项目已在上海、江西、江苏、福建、湖北、海南、河北等全国多个省市落地,涉足绿色能源、社会治安管理、城市应急管理、智慧教育、智慧交通、食品安全以及智慧政务等多个细分场景。在白皮书编制过程中,联想为智慧城市建设运营实践和案例调研提供了支持。

新型智慧城市发展重心将从建设转到运营

白皮书也对智慧城市未来发展进行了预判,认为在未来新基建和新技术的融合过程中,城市治理或将逐渐完成由“管理型”向“服务型”的转变。智慧城市作为一项巨大的城市服务产品,需要重点提升居民对城市的归属感,提高城市生活品质,促进城市产业经济发展。智慧城市逐步走深向实,未来将重点在体制机制、发展思路、互动形式方面产生跃升。即将出现的变化将包括:治理思路改变——从“城市数字化”到“数字化城市”;阶段重点改变——从“建设智慧城市”到“运营智慧城市”;互动形式升级——从“人与人的联接”到“万物互联”。

白皮书推出之际正值“十四五”规划审议通过并正式发布,规划明确提出“以数字化助推城乡发展和治理模式创新,全面提高运行效率和宜居度。分级分类推进新型智慧城市建设,将物联网感知设施、通信系统等纳入公共基础设施统一规划建设,推进市政公用设施、建筑等物联网应用和智能化改造”。新型智慧城市建设即将进入新的阶段,该白皮书以真实案例剖析为基础,结合理论和架构研究,形成较为完整的智慧城市体系框架,勾勒出未来可能的发展路径,是新型智慧城市建设的重要参考之一。

成为VIP会员查看完整内容
0
43

当前人工智能已经成为全球最为活跃的创新领域,对经济社会的发展影响深远。白皮书提出,在过去一年中,人工智能的新算法不断涌现,深度学习仍是这一时期发展主线,尝试解决更为复杂的应用任务。人工智能的产业格局与生态体系更为明晰,开源开发框架格局逐步确立,以科技巨头引领的生态系统垂直整合速度不断加快;同时,产业发展重心开始转变,企业比拼重点从单项技术的“理论”准确率转向应用场景白热化的“跑马圈地”;人工智能的技术应用开始全面覆盖日常生活、科学研究、社会治理、商业创新和国家安全等经济社会的关键领域,以空前的广度和深度推动社会发展。基于以上人工智能技术产业发展态势判断,白皮书建议“十四五”期间,我国应通过加快AI基础原创技术创新突破、构建协同发展AI基础核心生态、实现区域差异化发展布局、加快垂直行业深度融合、主动融入全球治理框架等措施,实现我国人工智能产业突破发展。

http://www.caict.ac.cn/kxyj/qwfb/bps/202104/P020210420614092578238.pdf

成为VIP会员查看完整内容
0
75

车联网是汽车、电子、信息通信、交通运输和交通管理等行业深度融合的新型产业形态,是 5G、人工智能等新一代信息通信技术在汽车、交通等行业应用的重要体现。自动驾驶是汽车智能化、网联化发展的核心应用,也是车联网部署发展的核心服务。我国在车联网技术创新、应用实践、产业生态构建等方面已经走在了世界前列,将有利于探索实现一条具有我国特色的网联自动驾驶发展路径。

本文聚焦车联网支持实现自动驾驶应用,从“协同感知、协同决策、协同控制”等不同环节,重点研究分析网联需求、典型应用场景、体系架构和核心关键技术。在此基础上,总结提炼网联自动驾驶发展面临的挑战,包括技术融合、基础设施建设以及商业运营等方面。最终以协同发展总结全文,希望我国能抓住难得的历史发展机遇,坚持网联自动驾驶的协同发展路径,影响形成全球广泛认同。

http://www.caict.ac.cn/kxyj/qwfb/bps/202012/P020201215382968589778.pdf

成为VIP会员查看完整内容
0
52

新一代人工智能(Artificial Intelligence,缩写为Al)是引领未来的战略性技术,正在与5G、大数据、物联网等领域深度融合,加速推动智能经济发展和产业数字化转型。我国高度重视人工智能发展,习近平总书记在十九大报告中指 岀,要“推动互联网、大数据、人工智能和实体经济深度融合”,《新一代人工智能发展规划》、《促进新一代人工智能产业发展三年行动计划(2018-2020年)》等多个国家政策陆续岀台,我国逐渐形成了涵盖人工智能计算芯片、人工智能计算服务器、人工智能基础应用、人工智能行业应用及产品等较完善的人工智能产业链。

数据、算法、算力是新一代人工智能发展的三要素。以人工智能新型计算能力为代表的人工智能计算中心是新型基础设施建设的重要组成部分。随着人工智能的深入应用,算力建设分散,中小企业或科研机构难以开展复杂模型、海量数据研究的问题日益凸显,建设大规模人工智能计算中心正在成为推动人工智能产业进一步发展的关键要素。

人工智能计算中心发展呈现三大趋势,一是全栈一体趋势,即专用人工智能芯片与软硬件协同优化提升计算效率;二是技术融合趋势,即超级计算与人工智能融合,云与人工智能融合;三是平台赋能趋势,即人工智能计算中心赋能企业,形成算力生态。

人工智能计算中心是人工智能算力建设的重要发展方向,是涵盖了基建基础设施、硬件基础设施和软件基础设施的大规模系统工程。依托人工智能计算中心,可以打造公共算力服务平台、应用创新孵化平台、产业聚合发展平台、科研 创新和人才培养平台,形成“1个人工智能计算中心+ 4个平台”的人工智能产业布局,赋能区域产业集群。

当前,人工智能计算中心仍然面临着能耗密度高、企业应用水平较低等问题,对于我国来说还面临着人工智能芯片及框架等核心技术受制于人的挑战。因此,在人工智能计算中心建设中,需要做好顶层设计、强化统筹推进,有效选择 自主可控的技术路线,建立完善的运营机制,积极打造服务平台,形成以人工智能计算中心为核心支撑的人工智能产业生态,加速人工智能新兴产业创新发展,促进人工智能与传统产业深度融合,拉动区域经济转型与高质量发展。

成为VIP会员查看完整内容
0
62

当前,随着全球人工智能规模化建设和应用加速,人工智能基础设施、设计研发以及融合应用面临的安全风险日益凸显。企业在设计研发、部署运营人工智能应用的全生命周期过程中,需要科学有效的人工智能安全框架予以指导。为此,在工业和信息化部网络安全管理局指导下,中国信通院联合瑞莱智慧、百度、腾讯、360、中科院信工所共同编制了《人工智能安全框架(2020年)》蓝皮报告。聚焦当前人工智能突出安全风险,提出涵盖人工智能安全目标,人工智能安全分级能力,以及人工智能安全技术和管理体系的人工智能安全框架。并且,描绘出面向人工智能应用关键核心组件,覆盖人工智能应用全生命周期的安全技术图谱,为人工智能相关企业循序渐进提升人工智能安全能力,部署人工智能安全技术措施,提供有益指引。

报告前言

人工智能作为引领新一轮科技革命和产业变革的战略性技术,正成为世界主要国家推动科技跨越式发展、实现产业优化升级、赢得全球竞争主动权的重要战略抓手。随着全球人工智能规模化建设和应用加速,人工智能基础设施、设计研发以及融合应用面临的安全风险日益凸显。世界主要国家纷纷通过制定人工智能伦理准则、完善法律法规和行业管理等方式开展人工智能安全治理。人工智能安全技术体系是人工智能安全治理的重要组成部分,是落实人工智能伦理规范和法律监管要求的重要支撑,是人工智能产业健康有序发展的重要保障。

人工智能安全框架是构建人工智能安全技术体系的重要指南,旨在为人工智能相关企业循序渐进提升安全能力、部署安全技术措施提供指导。在工业和信息化部网络安全管理局指导下,中国信通院联合瑞莱智慧、百度、腾讯、360、中科院信工所共同编制《人工智能安全框架(2020年)》蓝皮书。本蓝皮书针对全球人工智能安全框架缺失问题,凝聚业界专家共识,聚焦当前人工智能突出安全风险,提出涵盖人工智能安全目标,人工智能安全分级能力,以及人工智能安全技术和管理体系的人工智能安全框架,期待为社会各方提升人工智能安全防护能力提供有益参考。

成为VIP会员查看完整内容
1
60
小贴士
相关VIP内容
专知会员服务
10+阅读 · 7月21日
专知会员服务
14+阅读 · 7月5日
专知会员服务
24+阅读 · 6月20日
专知会员服务
31+阅读 · 6月1日
专知会员服务
21+阅读 · 5月15日
专知会员服务
43+阅读 · 4月24日
专知会员服务
75+阅读 · 4月21日
专知会员服务
52+阅读 · 3月22日
专知会员服务
62+阅读 · 3月5日
相关论文
Luyang Chen,Markus Pelger,Jason Zhu
0+阅读 · 7月23日
Mario J. Bencomo,Jesse Chan
0+阅读 · 7月23日
Zhiyong Zhou
0+阅读 · 7月23日
Antoine Liutkus,Ondřej Cífka,Shih-Lun Wu,Umut Şimşekli,Yi-Hsuan Yang,Gaël Richard
7+阅读 · 5月18日
Yufeng Zhang,Jinghao Zhang,Zeyu Cui,Shu Wu,Liang Wang
6+阅读 · 1月28日
A Survey on Bayesian Deep Learning
Hao Wang,Dit-Yan Yeung
42+阅读 · 2020年7月2日
Talking-Heads Attention
Noam Shazeer,Zhenzhong Lan,Youlong Cheng,Nan Ding,Le Hou
12+阅读 · 2020年3月5日
Mamdouh Farouk
5+阅读 · 2019年10月6日
Don't Blame Distributional Semantics if it can't do Entailment
Matthijs Westera,Gemma Boleda
3+阅读 · 2019年5月17日
Text Classification using Capsules
Jaeyoung Kim,Sion Jang,Sungchul Choi,Eunjeong Park
3+阅读 · 2018年8月14日
Top