DeepMind医疗APP正面临“监管的烦恼”

据动脉网（微信：vcbeat）之前的文章可以了解，今年2月谷歌旗下的AI公司DeepMind宣布通过与英国国家健康中心（NHS）的数据访问合作，全面进军健康领域。但坦白说，DeepMind Health到目前为止尚未完全顺利运行，还面临着诸多监管风波。（相关文章：人工智能机器人AlphaGo进军医疗保健领域）

之前，DeepMind与NHS协同设计的一款针对急性肾损伤高风险人群的预警系统APP在被英国药监机构MHRA作为医疗设备注册前，该公司表示不会继续使用该软件。特别有趣的是，这个名为Streams的应用程序，已经在多个NHS医院用于病人治疗。英国Royal Free NHS Trust曾透露，该应用程序已经在其伦敦医院的三项“用户测试”中被多达六个临床医生使用过。换句话说，医院在使用未经注册的医疗设备，利益驱动的商业实体被卷入了这场考验中。

在今年5月，当Royal Free NHS Trust与DeepMind的合作出现涉及“160万名患者的健康数据隐私”的争议之后，停止使用了问题应用程序Streams。而导致事件结果的原因之一，是在“该APP是否应该注册为医疗设备应用程序”上存在分歧。(相关文章：谷歌DeepMind获伦敦3家医院160万患者数据 将开发预警APP)

一位监管机构的发言人告诉记者：“通过MHRA了解，Streams是基于英国NHS AKI报警平台开发的，很可能成为一级医疗设备。对于一级医疗设备，设备制造商必须掌握所有相关测试和验证数据(包括软件)来支持设备的预期目标。欧盟内部主管机构(在英国就是MHRA) 可以要求随时查看有关该设备的所有文件。”

显然，在加速推进更多搭载NHS数据集的“用户测试”之前，DeepMind需要反思自己的做法，与相关医疗监管部门预先进行面对面沟通。

在本月早些时候，DeepMind的联合创始人Mustafa Suleyman在内容发布平台Medium上谈到，如何尊重NHS健康数据才是真正重要的。他接着指出：“不同的主管部门，赋予NHS数据使用不同类型的审批和监督，涉及到HSCIC、HRA 、MHRA、ICO、Caldicott Guardians等机构。我们致力于配合这些机构的所有工作，并确信在他们的帮助下，我们能做得很好。”

在谈到与MHRA合作的最新进展时，一位DeepMind发言人告诉记者：“我们仍处在开发Streams应用原型的阶段。在最后完成前，我们必须确保它符合所有适用欧盟和英国医疗设备的法规，我们目前正基于此与MHRA展开合作。Streams应用程序取得全面认证，获得CE标志并注册后，我们只会将其作为医疗设备投放市场。”

“DeepMind目前正在与MHRA合作以确保投放市场前，该设备符合所有相关医疗设备的法律规定。”一位Royal Free发言人补充道，他证实该信托机构依然信赖Stream。

另外，Royal Free和DeepMind都坚称他们尚未对相关问题程序进行临床试验，也不会进行全面上市的部署，因为这两者可能都会要求他们首先获得额外的监管机构批准。不过，在什么情况下用户测试会视为临床试验? 如何判断涉及“用户测试”的患者数量？对于这些，Royal Free都有义务披露。

DeepMind与Royal Free的第一次NHS合作，早期也出现过争议，是有关双方数据共享范围大小的协定问题。

非常广泛的数据共享协议包括5年的历史医院住院病人数据以及数以百万计的潜在NHS病人的医疗记录，且DeepMind无需求得病人的同意。数据共享协议的范围一直被像MedConfidential 这样的健康数据隐私保护组织所担忧，他们质疑为何DeepMind能获得如此多可识别的患者数据。

DeepMind与Royal Free声称他们需要广泛的病人数据，以此让应用程序Streams快速实现急性肾损伤鉴定的功能。然而，Caldicott规则确切表明，Streams是针对影响患者群体情况的“间接护理”，而不是需要依靠访问病人可识别数据的“直接护理”关系。

另一项DeepMind的NHS合作，是与伦敦的Moorfields眼科医院开展的。虽然合作不涉及患者的可识别数据，但是共享数据的性质(详细的生物眼部扫描)意味着它极有可能涉及个人数据泄露。在该实例中，约一百万眼部扫描将共享给DeepMind，用来完成机器学习模型，开发出能加快识别特定眼部条件的算法。 

不过，在DeepMind和Royal Free间的数据共享协议受到质疑之后，一项 ICO调查对其仍给予了“ 发展中”的评定。显然，DeepMind在健康领域已经发展得十分迅速，甚至超过了某些NHS监管机构。同时，Suleyman还证实DeepMind未来打算从这些工具和系统中获利，并且表示，它正在根据性能结果探索可能的支付模式。