AI远程监考软件Proctorio惹争议，UIUC宣布下学期停用该服务

机器之心报道

机器之心编辑部

出于对隐私、歧视、数据安全和可访问性的考虑，伊利诺伊大学香槟分校（UIUC）宣布将在 2021 夏季学期结束后停用远程监考软件 Proctorio。

在新冠肆虐的大背景下，「上网课」已经成为常态。那么考试的时候怎么办？在没有监考老师的情况下，学生会不会作弊？

越来越多高校选择使用远程监考软件 Proctorio 解决这一问题。该软件利用机器学习和先进的人脸检测技术，通过网络摄像头记录学生在考试期间的行为，监控学生的头部位置，以及标记「可疑行为」。

然而，这一软件的广泛使用引起了巨大争议。如去年 5 月澳大利亚国立大学数千学生发起请愿，要求停止使用 Proctorio 远程监控软件；美国大量师生出于隐私、歧视、数据安全和可访问性等因素抗议这一服务。

近日，伊利诺伊大学香槟分校（UIUC）发布公告，宣布将在 2021 夏季学期结束后停用 Proctorio 软件。

UIUC 公告地址：https://emails.illinois.edu/newsletter/1970177238.html

在公告中，ADA 协调员 Allison Kushner 和本科教育副教务长 Kevin Pitts 表示：

• 1. Proctorio 将在 2021 夏季学期结束后停用。

• 2. Proctorio 存在极大的可访问性问题。因此，使用 Proctorio 监考的老师需要考虑到提出可访问性问题的学生，包括在残疾人资源与教育服务中心（DRES）注册的学术住宿学生面临的技术问题（如缺少网络摄像头）。伊大创新教学中心（CITL）可以提供额外的 Proctorio 设置指导，帮助缓解可访问性问题。

• 3. 学校 ADA 部门和 CITL 已为替代性评估和监考技术方面的咨询做好准备。学生可以直接向 ADA 协调员报告与 Proctorio 相关的可访问性问题。

• 4. 学校正在研究长期的远程监考选择。

Proctorio 及其他远程监考服务，引争议不断

自 2020 年春季 UIUC 引进该服务以来，有关 Proctorio 软件的争议便一直不断，忧心于此的学生在 2020 年秋季学期纷纷发声。1000 多人签署请愿书呼吁学校停止使用该服务，他们在请愿书上写道：「Proctorio 非但效率不高，而且不安全，完全侵犯了学生隐私。」

请愿书封面：「你的一切都在监视之下」。地址：https://www.change.org/p/uiuc-stop-proctoring-exams-through-proctorio-proctoru?redirect=false

伊利诺伊大学香槟分校是众多强烈反对远程监控的大学之一。迈阿密大学也曾有 500 多人签署了请愿书，表示「Proctorio 的设计侵犯了学生权利，本质上存在对残障人士的歧视和区别对待，这与同行评审研究结果不符。」在加拿大里贾纳大学，3500 多人呼吁终止另一项自动监考服务 ProctorTrack。中佛罗里达大学也曾有 1200 人签署请愿书，要求停止使用另一个类似软件 Honorlock，他们表示：「学校不应该因为考试而强迫学生放弃其隐私和权利。」

除了学生强烈反对以外，教授以及其他职工同样对 Proctorio 服务持批评态度。致力于公民自由与隐私事宜的美国电子隐私信息中心（Electronic Privacy Information Center, EPIC）对 Proctorio 以及其他四项监考服务发起诉讼，称这些服务收集个人信息的行为属于「 不公平且欺诈性的贸易惯例 」。

不仅如此，2020 年 12 月，美国的一些参议员联合向 Proctorio 和其他两个类似服务平台写了一封公开信，表达了他们对相关商业行为的诸多担忧。公开信中写道：「学生正直面并抵抗这些技术的缺陷，这些缺陷不仅沉重打击了弱势群体，也将导致歧视性偏见长期存在。」

公开信地址：https://www.blumenthal.senate.gov/newsroom/press/release/blumenthal-leads-call-for-virtual-exam-software-companies-to-improve-equity-accessibility-and-privacy-for-students-amid-troubling-reports

担忧究竟源自哪里？

对此类远程监考软件的担忧主要围绕 安全性和隐私 两个方面。Proctorio 的记录数据允许教师和平台访问考生的浏览数据，并在某些情况下看到他们的私人住宅。Proctorio 在对参议员公开信的回应中表示：「Proctorio 通过多层加密保护并处理考生的数据，并且按照客户或适用法律要求的最短时间限度保留记录。」

图源：http://www.diglog.com/story/1026344.html

可访问性 是需要面临的另一个常见问题。有学生表示家里没有可用的网络摄像头，也可能没有足够的带宽来支持这项服务。有的考生甚至在星巴克的停车场参加化学考试。

学生还报告了另一个问题：Proctorio 这类服务难以识别肤色较深的考生，而且可能会将学生标注为残疾。研究发现即使最优秀的人脸识别算法，在识别黑人面部时也会比识别白人出现更多的错误。此前，Proctorio 曾回应道「这是光线、摄像头位置、摄像头质量的问题，与种族歧视无关」。

UIUC 的邮件中称，学校审慎考虑了学生对「可访问性、因素、数据安全和公平」的抱怨，并作为决策因素。邮件表示，将在选择下一个远程监考方案的时候考虑可访问性。

原文链接：https://www.theverge.com/2021/1/28/22254631/university-of-illinois-urbana-champaign-proctorio-online-test-proctoring-privacy

2021年 2 月的第一周，机器之心将携手二十余位 AI 人耳熟能详的重磅嘉宾进行在线直播，通过圆桌探讨、趋势Talk，报告解读及案例分享等形式，为关注人工智能产业发展趋势的AI人解读技术演进趋势，共同探究产业发展脉络。连续七天，精彩不停。

添加机器之心Pro小助手（syncedai 或 syncedproii），备注「2021」，进群一起看直播。