【课程设计】“智能时代青少儿人工智能伦理与知识产权” 开放讨论课程设计初探

2019 年 9 月 20 日 中国自动化学会


CAA
智慧起航,共创未来

【导读】 人工智能的飞速发展引发人工智能伦理的研究与探讨,在智能时代,人如何与人工智能和谐相处成为全世界密切关注的话题。

01

前言

中国[1]、美国[2]、英国[3]等政府在国家人工智能发展规划中都有提及人工智能伦理相关内容,IEEE[4]、欧盟[5]、联合国教科文组织[6]等非政府组织相继提出人工智能伦理相关标准,斯坦福大学[7]、  卡内基梅隆大学[8]、牛津大学[9]、未来生命研究院(Future of Life Institute)[10]等研究机构也提出人工智能伦理相关准则。中国成立的国家新一代人工智能治理专业委员会已发布《新一代人工智能治理原则——发展负责任的人工智能》[11],促进新一代人工智能技术健康发展。据不完全统计,目前有40多个机构和组织提出了人工智能伦理标准、准则及规范。

但上述人工智能标准及准则基本上是面向人工智能从业人员、从研究和技术开发的角度提出人工智能伦理相关的标准及准则,鲜有从教育和科普的角度,面向广大青少儿童普及人工智能技术应用实践过程中的伦理问题意识。青少儿是智能时代的生力军,他们的生活、学习和将来的工作都不可避免接触到人工智能技术,了解人与人工智能的关系以及如何与人工智能和谐相处等成为他们每个人必须面临的课题任务。遗憾的是,目前国内计算机或信息技术教育更多侧重讲解技术层面上的内容,针对幼儿园到高中学段(K-12)人工智能伦理教育较为少见。知识产权也是智能时代的另一个热点话题,国家知识产权局[12]发起过面向青少儿的知识产权教育,但把人工智能伦理及知识产权这两个重要的热点话题统一在一个框架下的教育模式在文献中尚未见到。在个人隐私泄露、知识产权侵犯等社会问题频发的背景下,针对国内两亿多幼儿及中小学生群体,普及人工智能伦理和知识产权的相关知识有着非常重要的现实意义。

为普及和推广人工智能,在2017年7月,国务院发布《下一代人工智能发展规划》,明确要求实施全民智能教育项目。2018年5月,中国自动化学会成立智慧教育专业委员会,其核心工作定位在致力于推动人工智能技术与教育的融合,同时提升全民智能科技素养。特别值得关注的是,2019年5月21日华为技术有限公司总裁任正非先生提到,中国唯有提高教育才能提升国家竞争力。对于研究和推广新型IT技术的学术界,有必要从技术专业角度来支持并呼应任正非先生的提法。因此,受中国自动化学会的指导与委托,中国自动化学会智慧教育专业委员会在此发起“智能时代青少儿人工智能伦理与知识产权” 开放讨论课程设计项目,旨在通过学科交叉及领域交叉,探讨面向青少儿童的人工智能伦理及知识产权教育的课程设计,培养K-12学段学生在人工智能技术应用过程中了解和尊重知识产权、具备人工智能伦理意识的好习惯,加强学生对于智能时代社会责任的认识。

02

 课程介绍

课程教学从立德树人的教育根本任务出发,发展学生全面信息素养;课程主要围绕科技教育的薄弱环节,即人工智能伦理和知识产权两个主题展开;课程对象设定为k-12学段学生。我们认为,这方面的教学内容应该成为我们计算机或信息技术课程中的第一课或者最后一课。

为了便于吸收、借鉴和广泛推广国内外在知识产权和信息技术教育课程方面的优秀经验,我们采取开放讨论的方式设计、完善和普及“智能时代青少儿人工智能伦理与知识产权”开放讨论课程,所有课程研发成果基于知识共享许可协议(CC 4.0)发布。

本文先从课程内容和形式方面提出建议,分享到互联网,期望听到更多关心教育人士,特别是K-12学段一线教师的意见和建议。

03

课程内容

课程内容源于青少儿在实际生活学习中可能遇到的问题。具体内容包括:

1) 人工智能伦理,包括人工智能伦理基本内涵、人与人工智能的关系等;

2) 知识产权,包括著作权、专利权、商标权、信息产权、盗版、侵权等;

3) 人工智能伦理及知识产权在科技创新中发挥的作用;

4)信息隐私权,包括个人信息、保密和密级、现实社会与虚拟社会等;

5)信息准确性,包括真假信息产生与传播、谣传等;

6)信息资源存取权,包括认证授权、访问控制等;

7)计算机犯罪,黑客、病毒等。

04

课程形式

课程形式可采用场景教学和问题探讨方式。考虑到目前多数问题的解答会随时间、地点、文化背景等情景变化而有所不同,尤其是人工智能伦理方面的问题尚在研究探索中,建议在教学过程中不设置标准答案,引导学生主动思考,自主学习,以理性分析的方式给出答案或见解。主要教学场景类型为:

1)概念/知识普及类,通过使用信息及人工智能技术的日常生活场景,介绍课程相关概念;

2)明辨是非类,展示信息及人工智能技术应用场景,让学生判断对错;

3)开放讨论类,让学生指出信息及人工智能技术应用场景中包含的知识产权和伦理问题,并提出自己的见解,答案正确与否主要是考察价值观与逻辑推理等因素。

05

 课程相关问题集

为了有效开展课程设计,建议设立课程问题集。然后围绕课程体系框架,参照问题集开发课程教学场景,每个教学场景可以包含1至多个问题。建议选择问题如下,也希望大家补充更多的问题。

人工智能伦理类:

1)你了解的人工智能技术应用有哪些?请给出2个例子。

2)人工智能技术需要正确应用。你认为“正确”地应用人工智能技术的情况有哪些?请给出2个例子。

3)你如何理解“人工智能伦理”或“信息伦理”,应该包括哪些内容?

4)俗话说:“没有规矩不成方圆”,你认为人工智能及计算机应用也应如此吗?可否举个例子?

5)你收到一个短信,这个朋友猜测今晚可能要有地震,你认为应该转发吗?为什么?

6)如果你知道同学的手机或计算机密码,你能够私自进入同学的个人账号吗?为什么?

7)你知道计算机病毒吗?它有什么危害?它的制造者被发现后会有什么结果?

8)你知道“个人隐私”包括哪些内容?为什么你不能将他人隐私公布于众?

9)你收到过垃圾邮件、垃圾短信、虚假信息或不良信息吗?它会有什么具体危害?请举例说明。

10)当你不确定有些信息或事物正确或错误否的情况下,你应该如何行动?可否举个例子?

11)在虚拟网络空间,人们可以匿名方式出现,这是否存在交流行为“底线”?请给出你的答案,并举例说明。

12)你能够列举社会中哪些行为不符合人工智能伦理吗?请举例说明。

13)你如何理解中国古人"己说不欲,勿施于人"的说法与“伦理”的关联?

知识产权类:

1)你知道什么是“知识产权”吗?能否给出一个具体实例?

2)你应用的计算机软件可以免费使用吗?请举例给出一个免费软件。

3)你知道什么是开放源码软件吗?能否举个例子? 

4)你知道英文“copyright”与“copyleft”的中文翻译吗?

5)你能够列举社会中哪些行为不符合知识产权相关条款吗?至少各一个例子来说明。

6)知识产权在我们的科技创新中发挥什么作用?能否举个例子?

7)可了解华为手机PK苹果手机的故事?可知道知识产权在这里面的作用?

8)如果让你在网上知识付费,或者购买你喜欢的音乐,或者购买你喜欢的电影,你会付费吗?为什么?

9)除了专利权,还有哪些属于知识产权保护的范围?可否举一个我们日常生活中的例子?

10)可喜欢画画?可曾经在网上画画?你可知道你拥有对此图片的版权?在数字时代如何保护我们的数字版权呢?

11)你认为知识产权对于创新很重要吗?举个例子并说明。

建议答题评价方式:上述开放性问题不给出标准答案,建议老师与同学们共同讨论后给予答题评价;评价标准包括:回答问题的合理性,表达简洁性、逻辑性等综合内容;建议评价结果采用“通过”或“未通过”两种方式;提前告知同学们评价方式;老师可以列表方式将同学们给出的答案在黑板上罗列出。本文稿为开放内容( open content) 发布,允许他人复制或修改上述内容。

06

教学场景案例

本文给出一个参考教学场景,供大家参考。教学过程从故事开始:小明的神秘网友。小明是八年级学生,是班里网络游戏的高手,得到班里一批游戏迷的崇拜。有一天,小明玩游戏的时候,有一个玩家给他要了微信号,加了好友。后来这个神秘网友告诉小明,有一个很好玩的软件,能够帮助他实现很多愿望,随后把软件发给了小明。小明安装完成后,按照网友的指导,小明发现他居然可以登录其他游戏玩家的账号,并轻松获得他们游戏角色的高端装备和虚拟财产。小明问网友,这样做是不是犯错误了。网友告诉他,这些装备和虚拟财产又不是真的钱,没关系的。

请与学生讨论故事涉及到的知识产权和伦理问题。

07

总结

在青少儿童阶段及早树立人工智能伦理及知识产权意识,建立正确的信息社会价值观和伦理观,有着深刻的教育意义;对于形成全社会的知识产权保护意识和促进大众恪守人工智能伦理,有着重要的引导作用,长远来看,更有助于鼓励原始创新、形成自主高端制造品牌、提升国民经济高品质发展。期待这门课程可以受到教育界和科技界的广泛重视,科教融合携手完善本课程。


*参考资料

[1] 国务院印发新一代人工智能发展规划[EB/OL], http://www.gov.cn/zhengce/content/2017 -07/20/content_5211996.htm. [2017-7-8].

[2] White House Office of Science and Technology Policy. Preparing for the future of artificial intelligence[EB/OL]. https://obamawhitehouse.archives.gov. [2016-10-01], [2018-07-13].

[3] House of Lords, UK Parlament, AI in the UK: ready, willing and able? [EB/OL], https:// publications. parliament.uk/ pa/ld201719/ ldselect/ldai/100/100.pdf. [2017-4-16].

[4] IEEE, The IEEE Global Initiative on Ethics of Autonomous and Intelligent Systems[EB/OL], https://standards.ieee.org/industry-connections/ec/autonomous-systems.html. [2017-11].

[5] The High-Level Expert Group on AI. Ethics guidelines for trustworthy AI[EB/OL]. https://ec. europa. eu/ digital-single-market/ en/ news/ ethics- guidelines- trustworthy-ai. [2019-04-08].

[6] UNESCO&COMEST. Report of COMEST on robotics ethics[R]. Praris: UNESCO, 2017.

[7] Peter Stone, Rodney Brooks, et al. Stanford University, Artificial intelligence and life in 2030 one hundred year study on artificial intelligence[EB-OL], https: //ai100.stanford.edu/sites/g/files/ sbiybj9861/ f/ai_100_report_ 0906 fnlc_single.pdf. 2016.

[8] Robotics Technology Consortium by Georgia Institute of Technology, Carnegie Mellon University, et al. A Roadmap for US Robotics From Internet to Robotics[EB/OL], https://cra.org/ ccc/wp-content/uploads/sites/2/2018/06/A-Roadmap-for-US-Robotics-From-Internet-to-Robotics.pdf, [2013-3-20].

[9] BRUNDAGE.M, AVIN S, CLARK.J, et al. The malicious use of artificial intelligence forecasting prevention and mitigation [EB/OL]. https: //maliciousaireport.com/. [2018-02-01].

[10]Future of life institute, Asilomar AI Principles[EB-OL], https://futureoflife.org/ai-principles/, [2017-1-5].

[11] 国务院, 发展负责任的人工智能:我国新一代人工智能治理原则发布[EB-OL], http:// www.gov.cn/xinwen/2019-06/17/content_5401006.html. [2019-06-17].

[12] 国家知识产权局教育部关于开展全国中小学知识产权教育试点示范工作的通知[EB-OL],http://www.sipo.gov.cn/pub/old/sipo2013/ztzl/zxxzscqjy/qgzxxzscqjysdsfgztzyw/ 1108199.htm, [2015-11-13].


来源:智慧教育研究所

往期文章

【重要通知】关于开展2019年度中国自动化学会会士候选人提名工作的通知

【CAA通知】中国自动化学会华东六省一市学术年会报名开始!

【重要通知】关于2019年度CAA科学技术奖励推荐工作的通知

【重要通知】关于开展第六届杨嘉墀科技奖评奖活动的通知

【CAC 2019】征稿截止日期延至8月31日!

【公示】中国自动化学会第五届青年科学家奖评审结果公示

【重要通知】关于开展2019年度中国自动化与人工智能创新团队奖推荐工作的通知

【CAA】中国自动化学会选举产生第十一届理事会领导机构(内附名单)

热烈祝贺中国自动化学会常务理事、火箭军工程大学教授胡昌华荣获中共中央军委通令记功

【奖励申请季】中国自动化学会奖励申请信息一览

【重要通知】关于中国自动化学会科普奖励推荐工作的通知


联系我们

地址:北京市海淀区中关村东路95号

邮编:100190

电话:010-82544542(综合)

          010-62522472(会员)

          010-62522248(学术活动)

          010-62624980(财务)

传真:010-62522248

邮箱:caa@ia.ac.cn


更多精彩

官方微信公众号(英文)

名称:CAA OFFICIAL

微信号:caaofficial


会员微信公众号 

名称:CAA会员服务 

微信号:caa-member

登录查看更多
0

相关内容

人工智能伦理是机器人和其他人工智能生物特有的技术伦理的一部分。它通常分为机器人伦理(roboethics ethics)和机器伦理(machine ethics),前者关注人类在设计、构建、使用和对待人工智能生物时的道德行为,后者关注人工道德主体(AMAs)的道德行为。

知识荟萃

精品入门和进阶教程、论文和代码整理等

更多

查看相关VIP内容、论文、资讯等
【硬核课】统计学习理论,321页ppt
专知会员服务
138+阅读 · 2020年6月30日
人机对抗智能技术
专知会员服务
201+阅读 · 2020年5月3日
专知会员服务
123+阅读 · 2020年3月26日
中科大-人工智能方向专业课程2020《脑与认知科学导论》
【机器学习课程】Google机器学习速成课程
专知会员服务
164+阅读 · 2019年12月2日
【白皮书】“物联网+区块链”应用与发展白皮书-2019
专知会员服务
93+阅读 · 2019年11月13日
2019年人工智能行业现状与发展趋势报告,52页ppt
专知会员服务
120+阅读 · 2019年10月10日
PPT | 阿里巴巴数据中台实践分享
走向智能论坛
15+阅读 · 2019年10月11日
我国智能网联汽车车路协同发展路线政策及示范环境研究
智慧园区整体建设规划设计方案(附PPT)
智能交通技术
41+阅读 · 2019年4月11日
【数字孪生】数字孪生的前世今生及未来之路
产业智能官
29+阅读 · 2019年1月22日
【智能制造】智能制造技术与数字化工厂应用!
产业智能官
13+阅读 · 2018年2月21日
《人工智能标准化白皮书(2018版)》发布|附下载
人工智能学家
17+阅读 · 2018年1月21日
A Modern Introduction to Online Learning
Arxiv
20+阅读 · 2019年12月31日
Arxiv
3+阅读 · 2019年9月5日
Self-Driving Cars: A Survey
Arxiv
41+阅读 · 2019年1月14日
Arxiv
3+阅读 · 2018年2月12日
VIP会员
相关VIP内容
【硬核课】统计学习理论,321页ppt
专知会员服务
138+阅读 · 2020年6月30日
人机对抗智能技术
专知会员服务
201+阅读 · 2020年5月3日
专知会员服务
123+阅读 · 2020年3月26日
中科大-人工智能方向专业课程2020《脑与认知科学导论》
【机器学习课程】Google机器学习速成课程
专知会员服务
164+阅读 · 2019年12月2日
【白皮书】“物联网+区块链”应用与发展白皮书-2019
专知会员服务
93+阅读 · 2019年11月13日
2019年人工智能行业现状与发展趋势报告,52页ppt
专知会员服务
120+阅读 · 2019年10月10日
相关资讯
PPT | 阿里巴巴数据中台实践分享
走向智能论坛
15+阅读 · 2019年10月11日
我国智能网联汽车车路协同发展路线政策及示范环境研究
智慧园区整体建设规划设计方案(附PPT)
智能交通技术
41+阅读 · 2019年4月11日
【数字孪生】数字孪生的前世今生及未来之路
产业智能官
29+阅读 · 2019年1月22日
【智能制造】智能制造技术与数字化工厂应用!
产业智能官
13+阅读 · 2018年2月21日
《人工智能标准化白皮书(2018版)》发布|附下载
人工智能学家
17+阅读 · 2018年1月21日
相关论文
A Modern Introduction to Online Learning
Arxiv
20+阅读 · 2019年12月31日
Arxiv
3+阅读 · 2019年9月5日
Self-Driving Cars: A Survey
Arxiv
41+阅读 · 2019年1月14日
Arxiv
3+阅读 · 2018年2月12日
Top
微信扫码咨询专知VIP会员