AI监视打工人，这个国家明确说：保护我方“摸鱼权”！

2021 年 11 月 22 日 学术头条

撰文：刘芳

编审：寇建超

排版：李雪薇

近日，国美控股集团对员工“摸鱼” 的处罚引起了关于职场中隐私权的巨大争议。

事实上，这一事件并非个例。如今人工智能（AI）算法在职场中的使用，已经涉及到包含隐私权在内的诸多问题。

随着人工智能在工作场所的使用越来越普遍，老板们到底有没有权利监视员工的摸鱼行为已经成为了一个不可回避的问题。

11 月 11 日，英国议会调查小组就人工智能在职场中的使用作出最终报告，称无处不在的监控和算法自动化决策对员工的身心健康带来显著的负面影响，员工会因此感受到极大的压力。

（来源：该报告）

报告提出：“人工智能正在改变人们的职场生活，但其发展速度明显超过了现有的监管制度。”

这份报告由英国议会跨党派未来工作小组（The All Party Parliamentary Group on the Future of Work，APPG）撰写，主要目的是调查前沿科技尤其是人工智能对人们工作带来的机遇和挑战。

（来源：该报告）

对此，调查小组提出了五点建议，以保障雇主和打工人之间的信任，并防范因算法的不当使用带来的社会心理风险。

建议一：“算法问责法案”中的先发机制

到目前为止，使用人工智能进行职场监控的企业，不需要就算法可能对员工带来的影响进行任何解释。 这意味着，在对打工人可能造成重大损害之前，风险一般会被忽视。

一旦通过“算法问责法案”（Accountability for Algorithms Act，AAA），英国政府将要求所有企业和政府部门披露“算法影响评估”（Algorithmic Impact Assessments，AIA）的细节。具体包括：

辨别可能受算法影响的个人和通信，特别是残疾人等弱势群体；
在开发算法时进行风险分析，尽一切努力防止算法给个人和社会带来的伤害，风险分析应采取预警原则, 借鉴英国研究机构 IFOW 推出的 Good Work Charter 标准；
针对分析结果对算法做出调整。“算法问责法案”将强制企业把调整算法的过程公开化，给打工人一个交代；
算法影响评估需要在设计初期就被纳入到整个产品生命周期中，并贯穿在人工智能产品开发和部署的整个阶段。

调查小组认为，法律强制的“算法影响评估”是让人工智能更加公平透明的切实可行的机制。 在具体实施中，“算法问责法案”应该阐明算法影响评估的总体目标和基本要求，监管部门和行业机构应该协调共治，就具体合规标准给出建议。

建议二：保护打工人权益

报告称，“算法影响评估”将提高目前打工人在职场的基本权益，以应对强大但无形的算法的巨大压力。

首先，法律需要保障员工的算法解释权（right to a full explanation），即雇主需要对算法的目的、结果和重大影响进行解释；其次，是参与权（right to be involved），员工有参与设计和使用工作中算法的权利；此外，还有弹性工作权（flexible working），也就是在紧急事项之外的偶尔“摸鱼”权，以避免雇主压榨员工；最后，是“断网权”（disconnect），即在法定工作时间之外不被算法监视或被老板打扰的权利。

“断网权”首先出现在法国。2004 年，法国最高法院确认了之前的一项判决，并裁定“在工作时间以外无法用手机联系到（打工人）的事实不能被视为不当行为”之后，欧洲各国都有类似的相应规定。比如，2017 年意大利第 2233-B 号参议院法案第 19 条第（1）款规定了关于工作协议的实施情况，其中包括某种形式的断网权。

自新冠疫情以来，越来越多的人主动或被动地选择了在家办公，工作与生活的界限逐渐模糊，一种数字焦虑开始蔓延。2021 年 11 月 5 日，葡萄牙议会通过的劳动法规定，雇主在工作时间以外联系员工属于非法，可能面临处罚。法律还禁止雇主利用人工智能远程监控员工，并确保员工必须每两个月与雇主会面一次，以防止被孤立。在欧洲，“断网权”正在被越来越多的国家接受成为一种受官方保护的工作权益。

（来源：该报告）

建议三：确保多方共治关系

未来工作小组认为，人工智能在职场中的使用需要采取多方共治的方式，而不能完全依赖法律所保障的个人权利。在 AI 时代协调个人和集体问责机制至关重要。

例如，工会联盟（Trades Union Congress，TUC）和其他非政府机构可作为中间人，协调企业与员工在使用人工智能时的不同利益，发展相关方在人工智能生态里的合作伙伴关系。

报告提出，工会联盟和非政府机构可组织专业论坛并派驻专门的人工智能技术代表从事相关工作。更重要的是，工会联盟和阿兰·图灵研究所（Turing Institute）等机构可以在政府的支持下对整个劳动力市场进行培训，以加强人们对人工智能技术的理解。

建议四：在实践中执行

报告认为，英国政府需要厘清各个机构的监管范围并扩大数字认证权力。

目前负责算法监管的数字监管合作联盟（Digital Regulation Cooperation Forum，DRCF）由英国信息专员办公室（Information Commissioner’s Office，ICO）、英国竞争和市场管理局（Competition and Markets Authority，CMA）和英国通信办公室（Office of Communications，Ofcom）组成。

内部人士在议会质询时承认，现在的监管框架过于复杂，职能交叉现象比较严重，管理也不够透明。报告认为需要新的机制和资源来执行“算法问责法案”。

更重要的是，由于人工智能给职场带来的挑战不是以“行业”来分的，所以管理者不能以行业的思考方式来应对。

（来源：该报告）

建议五：支持以人为本的人工智能

以人为本，是近年来人工智能企业最常提起的概念之一。

调查小组称，目前在职场中部署的人工智能和自动化技术很少是以打工人的基本权利为首要目标而开发的。作为对员工的保障，开发者需要纳入《欧洲社会宪章》和《经济、社会、文化权利国际公约》，以及在今年 9 月份发布的英国国家人工智能战略中的核心要素。

此次的最终报告参考了英国普通民众、商界、工会和学术界的综合意见。

未来工作小组认为，仅仅跟随人工智能在职场中的使用是远远不够的，AI 治理必须提前预见到技术带来的变化，也必须塑造更美好的工作未来。

参考文献：
https://static1.squarespace.com/static/5fa4334fdc893d349e9810a2/t/618d2a5f73f27d5d2f73dea2/1636641379623/The+New+Frontier+%E2%80%93+Artificial+Intelligence+at+Work.pdf
https://www.ifow.org/publications/mind-the-gap-the-final-report-of-the-equality-task-force
https://www.ifow.org/publications/the-ifow-good-work-charter
https://en.wikipedia.org/wiki/Right_to_disconnect
https://www.vice.com/en/article/pkpdan/portugal-makes-it-illegal-for-your-boss-to-text-you-after-work
https://www.tuc.org.uk/AImanifesto

点这里关注我👇记得标星~