DeepMind数据“隐私门”终裁，使用NHS患者数据被判违法

2017 年 7 月 4 日 新智元

新智元编译

来源：theverge，DeepMind

编译：刘小芹

【新智元导读】深陷滥用患者数据“隐私门”的 DeepMind 和 NHS 昨天收到最终裁决：二者间的交易被英国信息专员办公室 ICO 认定为“没有遵守数据保护法案”，尽管没有被直接裁决，DeepMind 今天发布博客文章回应了这一裁决。

根据英国数据监护机构，英国医院和Google的AI子公司DeepMind之间的一项数据共享交易“没有遵守数据保护法案”。信息专员办公室（ICO）在对该交易进行了长达一年的调查后，本周一做出以上裁决。DeepMind处理了来自皇家自由NHS信托基金会（Royal Free NHS Trust）3家伦敦医院的160万名患者记录。

这笔交易最初完成于2015年，后来被一项新协议取代。当时，DeepMind和皇家自由信托表示他们共享的数据用于开发一个名为Streams的智能手机应用程序，这个应用程序可以监测患者急性肾损伤的风险，并向医生发送警报。2016年4月《新科学家》发布的一份调查显示，该协议的条款比原来暗示的更加宽泛。DeepMind已经与其他英国医院达成新的部署 Streams的交易。

ICO表示在该协议中发现了“一些缺点”，尤其是病人没有完全了解他们的个人信息将被如何使用。英国信息专员伊丽莎白·德纳姆（Elizabeth Denham）在新闻稿中表示，“技术创新不能侵犯基本的隐私权”。

根据ICO的说法，没有人询问过患者是否同意DeepMind处理自己的医疗数据。协议中共享的信息包括药物过量、堕胎、是否HIV病毒携带者等。DeepMind和皇家自由信托声称患者提供“默认同意”共享这些信息，因为这些信息将用于通过Streams应用程序提供“直接护理”。

ICO的裁决表明，这两家机构的声明还远远不够。Denham说：“病人不会预期到他们的信息被这样使用了，而信托基金会本可以，而且应该对病人更加透明。”

协议中明确的事情是，这些隐私数据不会与DeepMind的母公司Google共享，也不会使用机器学习或AI工具来分析这些数据。（尽管DeepMind还参与了与英国议员的另外两项独立交易，开发用于改善癌症治疗和眼疾治疗的AI驱动的算法。）

DeepMind在回应这一裁决的博客文章中表示欢迎ICO对此案“周到的决议”，并承认在初始的协议中犯了一些错误。该公司表示，它本应该向患者和公众更好地解释这个交易，而且“低估了NHS和有关患者数据规则的复杂性”。

在ICO昨天发表的新闻稿中，该监管机构表示，在急于创新的情况下，皇家自由信托基金会这样的机构也不应该忘记遵守法律。该信托基金被要求签署一项新的协议，承诺遵守法律规定，并对2015年的使用进行审查。

DeepMind官方声明

当前，英国医院中仍有许多人由于没有及时发现的脓毒病和急性肾损伤（AKI）等情况死亡，而这些死亡本来是可以避免的。为了解决这个问题，我们与皇家自由伦敦NHS信托基金会的临床医生合作建立了Streams应用程序，使用移动技术自动检测AKI发作时的严重问题的测试结果。如果发现，Streams会向相应的临床医生的智能手机发送安全警报，以及有关患者先前病情的信息，以便立即进行诊断。

我们感到自豪的是，Streams部署在皇家自由信托医院的几个星期之内，护士们说每天节省了两小时的时间，我们也听说多亏这个警报，病情严重的病人得到了及时的治疗。Streams旨在为将来的例如AI驱动的临床警报等更先进的技术做准备，我们希望能够及时为患者和临床医生带来更多的益处。

信息专员办公室（ICO）已经完成一项为期一年的调查，重点是2015年底和2016年间皇家自由信托对Streams的临床测试，以确保这一服务能够在医院安全地部署。ICO对在测试中使用患者数据的法律依据不满意，并引起了对病人知情权的担忧。ICO发现这样的许多问题已经由皇家自由信托处理，并要求信托基金会签署一份正式承诺，确保将来遵守。

ICO的工作也认为，皇家自由信托已经掌握所有患者的数据，而DeepMind仅是“数据处理者”的角色，并且遵守信托基金会的指示。ICO没有提出有关数据的安全性的问题。

我们欢迎ICO对此案周到的决议，我们希望这将保证Streams继续安全和合法地处理患者数据。

虽然今天的发现是关于皇家自由信托的，但我们也需要反思自己的行为。在2015年这项工作开始时，我们决心要加快实现影响，我们低估了NHS和有关患者数据规则的复杂性，以及技术公司进入医疗领域存在的潜在担忧。我们几乎是完全专注于构建护士和医生想要的工具，并将我们的工作视为针对临床医生的技术，而不是需要对患者，公众和NHS整体负责的事情。我们这样的认识是错误的，我们需要做得更好。

从那时起，我们一直努力对透明度，监督和参与度做出一些重要的改进。例如：

我们在2015年与皇家自由信托基金会签署的最初法律协议本应对正在进行的具体项目以及我们在处理患者信息过程中同意遵循的规则进行更为详细的说明。我们和皇家自由信托在2016年用更全面的协议取代了原始协议，我们也与其他NHS信托基金使用Streams签署了类似的有力协议。
我们在2015年第一次与NHS合作时没有公开我们的工作是错误的，所以我们主动宣布并公开发布了我们后来与NHS进行合作的协议。
我们最初急于与护士和医生合作创造出能满足临床需求的产品，那时我们没有让患者和公众足够地了解我们的工作。后来，我们与病人专家合作，设计了一个让病人和公众参与策略，并在2016年9月举行了第一次大型开放活动，未来还会有更多这样的活动。
为了加强对我们的工作的监督，我们邀请了9位有名望的独立审查员细致审查了DeepMind Health，这是远在任何监管或媒体批评之前进行的。这个团队即将发表他们第一年的研究结果，我们期待他们提出改进的建议。

我们希望这些举措有助于提高NHS IT整体的水平，并希望未来进一步推行可验证数据审核（Verifiable Data Audit）等项目。

总而言之，如果我们想要通过技术来支持NHS这样一个重要的社会机构，那么我们必须确保我们服务于社会的优先事项，而不是超出它们。找到有效的新方法来改善医疗，甚至超越患者的期望，这是一条很好的路径。我们知道，当我们刚开始进入医疗领域时，我们在这些方面很不足。我们将继续倾听和了解如何做得更好。我们也完全同意权威的观点，包括国家数据监管机构（National Data Guardian）和了解患者数据机构（UnderstandingPatient Data），他们呼吁更多地公开使用数据来改善医疗保健，而我们可以尽力给予支持。

我们是一个与NHS一同成长起来，并与NHS一同工作的团队，我们很荣幸有机会将我们的专业技术用于帮助病人、护士、医生以及我们所热爱的医疗服务事业。这是一个让人兴奋的机会，我们一直相信的事情将得到证明：如果我们得到道德、责任感和参与权，那么新的技术体系将对社会产生巨大的积极影响。这是我们可以想象的最重要的挑战。

参考链接：https://www.theverge.com/2017/7/3/15900670/google-deepmind-royal-free-2015-data-deal-ico-ruling-illegal

https://deepmind.com/blog/ico-royal-free/