以后上课没机会发呆了?AI班主任可能会监控你的一举一动

2019 年 9 月 11 日 科学出版社

你以前上课时发过呆么,如果有,那你能接受由人工智能来判断你是否在发呆么?


曾经老师检查大家有没有专注听课,基本靠肉眼识别,只要他的头像一出现,全班立马精神抖擞。

而近期一系列的新闻似乎在隐隐预示着,未来准备要接手这一项工作的,有可能会是人工智能系统。


所以AI接管监测学生后,会是什么样?

通过近期一部颇有争议的“教室人脸识别技术演示视频”,我们或许能脑补出一些未来教室的样子。首先是考勤完全不用担心,通过人脸识别,就能知道今天谁旷课了:


基于人脸识别与行为分析算法,可以分析识别出学生的状态数据,包括高兴、困惑、厌恶,还有一些动作,像是举手,听讲,玩手机,睡觉,趴桌子都可以统计:


根据视频介绍,这样可以帮助老师了解学生的情绪变化以及心理特征,以便于调整教学内容和进度....


不知道是不是一直笑就等于学进去了,但真应了小编学生时代听到过最多的那句话:你们下面干什么,老师在上面看的一清二楚。


当然这只是技术演示视频,算不得真的,但其实现在已经有高校在教室中试水人脸识别系统,称“手机也能感知到”:


据报道,这所高校除了在出入校门采用了人脸识别外,学校还在两间教室内进行试点。

这种教室内的人脸识别可以提高考勤效率,同时可以识别出抬头低头次数,是否发呆玩手机看课外书籍,用网友总结的话说,“逃课与替同学答到将会成为历史”

这一系列的信息引起了网友之间的激烈讨论,有人觉得这种设计监督过度,如同“监视”,很容易让人感到不适。


也有网友指出,其实相比之前的校园卡会很方便,可以再观望。


还有人觉得这取决于使用场景,人脸识别作为门禁还算正常,但上课观察人脸,这就有点可怕了:


其实关于面部识别的使用或者滥用在网络中早有讨论,而在此次校园脸部识别将其再次升温。

不可否认的是,脸部识别结合人工智能确实会带来便利,但也有大量网友认为个人隐私难以得到保障。

例如都谁有权限可以访问收集到的脸部数据?这些数据会存储多长时间?如何保证面部特征数据不会外泄,如果泄露了该如何解决?识别出不好的结果后,校方又会采取哪些措施?

当然,更多人也对技术的可靠性产生质疑:


对于网络的争论,教育部也很快做出了回应,算是给这次讨论暂时做了一个总结:


但事实上,无论是校园人脸识别还是AI分析,这已经不是第一次引发类似的争议。


就拿最近来说,瑞典一所高中就因为使用人脸识别系统记录学生的出勤率,而被瑞典数据监管机构罚款20万瑞典克朗,约合14.7万人民币。


这所学校被处罚的原因,是为违反了欧盟制定的《通用数据保护条例》。

其实学校的面部识别实验涉及的学生人数仅有22名,要说明的是,相关的数据都是在双方同意的情况下进行收集的,但学校依然受到了处罚。


因为瑞典数据监管机构认为,数据主体和数据控制者之间有明显的不平衡性。

说的直白一点,也就是无法确定学生是完全自愿与学校达成的共识,因为学生依赖于学校,就有可能发生妥协,所以他们认为,收集和处理这些数据的行为依然是不合理的。


美国校园近年来也开始引入人脸识别系统,但也同样引起了不小的争议。

今年5月美国纽约州洛克波特市学区就准备展开脸识别安装测试,但在6月左右测试又推迟了,而原因同样来自学生隐私问题。


另外,法国巴黎商学院在2017年也开始运用人工智能和面部分析,来判断学生是否在课堂中走神。


这款软件名叫Nestor,用于网络课程,它会通过学生的电脑摄像头来分析学生的眼球运动,以及面部表情,以此判断学生是否正专注于视频课程,并会在走神时进行提醒,也可以让教授知道课程哪里需要修改。

但这个过程给网友的感觉,就像是你的电脑摄像头中长了一只眼睛。


除了这种脸部识别分析监测,校服上面也可以做文章。早在2012年 ,由于很多家长对自己孩子逃学的事毫不知情,巴西有学校利用芯片校服来考察学生出勤。

校服会在孩子进入校园后发射信号,传送到中央计算机,再由此给家长手机发短信,确认孩子已经安全到达。如果上课20分钟孩子依然未到,家长会收到通知。


看完这些你或许在感慨还好自己毕业早,但事实上,成年人的世界可能更不容易一些。


今年就有媒体报道某知名公司有嫌疑在利用AI来追踪员工工作,同时数百名员工的解雇,可能也与这种追踪系统对员工工作效率的评判有关。


此外,去年还有媒体报道过亚马逊申请了一项“智能腕带”技术专利,用于帮助员工提升工作效率:


这种腕带可以追踪员工的手臂运动,辅助员工尽快找到正确的存货箱、响应订单、更快的填写订单。

但很多人认为,腕带不仅会引发人们对隐私的担忧,同时无形中也让工作场所中增加了一个新的监控,让人更像是机器人。


所以和学生一样,成年人也有可能被AI追踪一举一动,判断你什么时候休息,什么时候工作,甚至通过设备来远程提示你厕所上了多久,呆发了多久....



总之,让高科技辅助教育、提升工作效率并没有问题,但需要完善清晰的规则作为规范。否则一味的科技化除了很有可能会引发安全漏洞,更会让人们产生恐慌心理。

另外在网友看来,面部识别等技术或许在考场以及寻人方面有更大发挥空间,而人们也期望技术帮助这些领域变得更好。


小编在了解完这些后,发现相比AI无死角的监控,或许班主任的后门凝视更为亲切一点——也许以后,我们将会怀念那段被人凝视的日子。

(文中图片素材均来源自网络,仅供学习交流使用)

参考资料:

https://edtechmagazine.com/k12/article/2018/02/biometric-technology-tracks-students-attention

https://www.nytimes.com/2018/02/01/technology/amazon-wristband-tracking-privacy.html

https://www.geekwire.com/2018/amazon-wins-patents-wireless-wristbands-track-warehouse-workers/

https://findbiometrics.com/paris-school-business-facial-biometrics-4055303/

https://www.theverge.com/2019/4/25/18516004/amazon-warehouse-fulfillment-centers-productivity-firing-terminations

https://cacm.acm.org/news/237260-new-york-school-districts-facial-recognition-system-sparks-privacy-fears/fulltext

https://www.bilibili.com/video/av66631405?from=search&seid=12532416892704093552

https://weibo.com/1044173452/I55vU5c1e

https://www.engadget.com/2019/05/30/facial-recognition-us-schools-new-york/?guccounter=1#comments

https://www.bbc.com/news/world-latin-america-17484532

https://gizmodo.com/swedens-first-gdpr-fine-goes-to-a-high-school-piloting-1837616893#replies



本文经授权转载自微信公众号狂丸(ID:kuangwanplay),版权归原作者所有,文章只为学术信息传播,不代表本号所持观点。文中图片素材均来源于网络,如有侵权请及时联系删除。


推 荐 阅 读



人工智能技术就是用计算机来模仿人类的智能,使机器具有人类智能的特征,能感知,能记忆与思维,会学习,还要具有执行能力。 本书介绍了人工智能技术的起源与发展、人工智能技术的主要研究内容、应用最广泛的计算机视觉和自然语言识别技术,也介绍了机器人学和机器人技术的广泛应用以及人工智能与机器人技术的发展趋势等内容。

本期编辑丨小文


一起阅读科学!

科学出版社│微信ID:sciencepress-cspm

专业品质  学术价值

原创好读  科学品味

更多好素材,期待您的来稿

与科学相约 | 科学出版社征稿启事


点击“阅读原文”可购买本书

登录查看更多
0

相关内容

人脸识别,特指利用分析比较人脸视觉特征信息进行身份鉴别的计算机技术。广义的人脸识别实际包括构建人脸识别系统的一系列相关技术,包括人脸图像采集、人脸定位、人脸识别预处理、身份确认以及身份查找等;而狭义的人脸识别特指通过人脸进行身份确认或者身份查找的技术或系统。人脸识别是一项热门的计算机技术研究领域,它属于生物特征识别技术,是对生物体(一般特指人)本身的生物特征来区分生物体个体。生物特征识别技术所研究的生物特征包括脸、指纹、手掌纹、虹膜、视网膜、声音(语音)、体形、个人习惯(例如敲击键盘的力度和频率、签字)等...
最新《深度学习行人重识别》综述论文,24页pdf
专知会员服务
80+阅读 · 2020年5月5日
【复旦大学-SP2020】NLP语言模型隐私泄漏风险
专知会员服务
24+阅读 · 2020年4月20日
专知会员服务
124+阅读 · 2020年3月26日
【WWW2020-UIUC】为新闻故事生成具有代表性的标题
专知会员服务
26+阅读 · 2020年3月18日
Python数据分析:过去、现在和未来,52页ppt
专知会员服务
99+阅读 · 2020年3月9日
冬日里的一首歌 | 清华快闪女指挥王明媚讲述背后的故事
清华大学研究生教育
59+阅读 · 2019年1月9日
年薪48万的程序员,他究竟做对了什么?
机器学习算法与Python学习
7+阅读 · 2018年12月28日
从Face ID说起,浅析人脸识别之刷脸技术
互联网架构师
6+阅读 · 2017年9月25日
从0到1,漫谈步态识别那些事
机器学习研究会
10+阅读 · 2017年9月24日
可怕,40 行代码的人脸识别实践
51CTO博客
3+阅读 · 2017年7月22日
嘿,这是本应属于你的“红包”!
腾讯
3+阅读 · 2017年7月13日
Deep Anomaly Detection with Outlier Exposure
Arxiv
17+阅读 · 2018年12月21日
Few Shot Learning with Simplex
Arxiv
5+阅读 · 2018年7月27日
Arxiv
4+阅读 · 2018年5月4日
Arxiv
7+阅读 · 2017年12月28日
VIP会员
相关VIP内容
最新《深度学习行人重识别》综述论文,24页pdf
专知会员服务
80+阅读 · 2020年5月5日
【复旦大学-SP2020】NLP语言模型隐私泄漏风险
专知会员服务
24+阅读 · 2020年4月20日
专知会员服务
124+阅读 · 2020年3月26日
【WWW2020-UIUC】为新闻故事生成具有代表性的标题
专知会员服务
26+阅读 · 2020年3月18日
Python数据分析:过去、现在和未来,52页ppt
专知会员服务
99+阅读 · 2020年3月9日
相关资讯
冬日里的一首歌 | 清华快闪女指挥王明媚讲述背后的故事
清华大学研究生教育
59+阅读 · 2019年1月9日
年薪48万的程序员,他究竟做对了什么?
机器学习算法与Python学习
7+阅读 · 2018年12月28日
从Face ID说起,浅析人脸识别之刷脸技术
互联网架构师
6+阅读 · 2017年9月25日
从0到1,漫谈步态识别那些事
机器学习研究会
10+阅读 · 2017年9月24日
可怕,40 行代码的人脸识别实践
51CTO博客
3+阅读 · 2017年7月22日
嘿,这是本应属于你的“红包”!
腾讯
3+阅读 · 2017年7月13日
Top
微信扫码咨询专知VIP会员