哈佛大学Glenn Cohen教授就“医疗人工智能”发表演讲

2021年6月2日晚，哈佛大学法学院副院长Glenn Cohen教授应邀线上出席中国人民大学未来法治研究院“全球荣誉讲席系列讲座”，并围绕医疗人工智能与机器学习领域的法律与伦理问题发表了精彩的主题演讲。在演讲中，Cohen教授从“技术该如何使用”这一问题切入，从医疗人工智能的广阔应用前景出发，探讨了医疗领域使用人工智能潜在的技术、伦理和法律困境和解决方案。

Cohen教授是哈佛大学法学院副院长和James A. Attwood & Leslie Williams教席的主持人，担任佩特里-弗洛姆卫生法政策、生物技术和生物伦理学中心主任（Faculty Director, Petrie-Flom Center for Health Law Policy, Biotechnology & Bioethics）。他是生物伦理学及法学交叉学科和卫生法领域世界顶尖的学者之一，专注于医疗大数据、医疗信息技术、移动健康、生殖技术、器官移植、法律与医疗定量配给、转译医学和医疗旅游等问题的研究。Cohen教授2008加入哈佛法学院、2013年获得终身教职时，均为哈佛法学院最年轻的教授。Cohen教授曾在顶级法律、医学、生物伦理学、科学和公共卫生期刊发表各类论著150余篇，并出版了15部著作。

（讲座的线下会场）

中国人民大学副校长兼法学院院长王轶教授出席演讲并致欢迎辞。清华大学法学院卫生法研究中心主任、中国卫生法学会常务副会长王晨光教授，山东大学法学院副院长满洪杰教授，香港城市大学法学院副院长丁春燕副教授，北京大学法律人工智能实验室副主任江溯副教授，丹麦哥本哈根大学法学院向文副教授，中国人民大学数学科学研究院龚新奇教授、中国人民大学高瓴人工智能学院许洪腾准聘副教授，中国人民大学未来法治研究院执行院长张吉豫副教授、副院长丁晓东副教授、研究员郭锐副教授、研究员刘洋助理教授出席讲座，并在主题演讲后与Cohen教授进行了深入的学术交流。本次讲座由中国人民大学未来法治研究院研究员熊丙万副教授主持。

【欢迎致辞】

王轶副校长

王轶副校长兼法学院院长在致辞中对Cohen教授出席人大未来法治研究院“全球荣誉讲席系列讲座”并发表演讲表示热烈欢迎。他回顾说，人大法学院和哈佛法学院有着长期深厚的友谊和广泛的学术合作，在学生培养、师资访问与培训、联合学术研究和学术会议等方面一直保持着高水平合作；并特别回顾了两院在残障人权益领域开展的持续深度学术合作，以及两院联合发起的“哈佛大学-人民大学-日内瓦大学-悉尼大学”四校法学院高水平学术会议机制。他代表人民大学法学院感谢哈佛大学法学院对人民大学法学院的法学教育和法学研究的大力支持和帮助。王轶副校长在致辞中介绍了本次讲座的主办方中国人民大学未来法治研究院。他说，该研究院汇集了一批优秀的青年学者，吸纳了许多来自哈佛大学、耶鲁大学、牛津大学、密歇根大学等世界著名大学的优秀毕业生，专注于包括人工智能在内的法律与科技领域的交叉融合研究。未来法治研究院的学者不仅活跃于学术界，而且还积极参与推动相关立法和公共政策的发展。他对Cohen教授在医事法和医疗人工智能领域的学术造诣和声誉表示赞赏，希望通过Cohen教授本次专题演讲和交流，进一步促进中国学术同行在这方面的学术讨论。他还代表法学院热烈欢迎Cohen教授在合适的时间到中国人民大学法学院访问，并展开现场学术交流。在致辞中，王轶副校长还对王晨光教授等与谈嘉宾的热情参与和支持表示衷心感谢，并希望能够通过交流加深学术了解、增进学术共识。

【主题演讲】

（Cohen教授）

哈佛大学法学院副院长Glenn Cohen教授对人民大学法学院邀请其到“全球荣誉讲席系列讲座”参与学术交流活动表示衷心感谢，并对哈佛大学法学院与人民大学法学院的高水平学术合作予以高度赞赏。

在随后的主题演讲中，Cohen教授从人对于技术的主体性视角，勾勒了“技术该如何使用”这一法律和伦理问题。具体到医疗人工智能，Cohen教授结合实例介绍了医疗人工智能在疾病前期诊断、治疗方案选择、重症病房的床位分配等领域的巨大应用前景。然而，Cohen教授说，人工智能在医疗领域日益广泛的应用也开始引发越来越多的法律和伦理问题，如在获取病人数据时如何准确告知其数据的应用范围、如何检验医疗人工智能所搭建的模型的可靠性、如何实现对算法透明度和技术的商业机密间的平衡、在实际操作中医生应当在多大程度上依赖医疗人工智能的结果、医药监管部门是否具有相应的技术能力对医疗人工智能软件进行评估、该如何保证一个成熟的医疗人工智能产品在全国范围内进行公平的配置。

Cohen教授在演讲中指出，是否使用医疗人工智能、使用何种类型的医疗人工智能以及如何使用受到来自开发者、监管者、诊疗机构和保险公司、医务工作者的共同影响。法律应当就各个环节设置何种法律义务和责任规则，是一个值得深入探讨的问题。他认为，尽管整体上医疗人工智能所提出的方案很可能会更优，但现行的侵权责任法体系往往会鼓励医生们去遵从标准的医疗措施，而不是借鉴医疗人工智能所提出的改进方案。而医生的这一尴尬处境使得利用医疗人工智能来提高医疗诊断能力的尝试变得保守而缓慢。Cohen教授建议医生应该学习如何更好地运用和解释人工智能算法，如在什么情况下应该应用现有的医疗人工智能，以及应该对算法提出的建议给予多大的信任。相关行业组织应积极采取措施，评估具体的实践算法的可行性。此外，医生应仔细考察保险公司如何承保医疗人工智能在实践中的使用，以补偿损失和分摊风险。

Cohen教授还在演讲中评述了医疗人工智能所涉及的知情同意规则和个人隐私保护问题。他说，在美国，这些潜在的问题并不能被现行的健康保险流通与责任法案（Health Insurance Portability and Accountability Act）所涵盖。一些非医疗信息也可能与个人健康相关，需要一个整体体系去规制。而针对医疗人工智能的市场准入前审查，医药监管部门可能缺乏相关经验，医疗人工智能软件作为一个动态更新的产品也需要不同于药品和医疗器械的审查方式——即采用系统路径进行规制。Cohen教授及其同事所提出的系统审查方法将要求监管机构在法律授权的前提下收集充分的相关信息，同时对上述信息进行持续追踪。该监管模式对医院和医生也提出了新的要求，他们应持续评估医疗人工智能在团队中的适应性。

最后他提出，在未来，环境智能（Ambient Intelligence）可能作为一个更加连续而智能的行为分析系统被用于医疗领域，实现医院乃至家庭的健康监控全覆盖，以改善病人护理和整体效率。然而，这一系统运用后潜在的法律和伦理问题值得探讨。大多数形式的环境智能从患者和医护人员处捕获数据，可能会侵犯隐私，比如视频采集。Cohen教授认为，在推行任何新技术时，建立信任的更好方法都是对潜在相关者尽可能透明。医院不应隐瞒这项系统的存在，而应积极地向患者介绍这项技术对病人护理的预期好处，并向他们展示为保护隐私所采取的保障措施。针对医护人员的知情同意，Cohen教授认为，在满足以下条件且符合医学道德伦理要求时，医院就可以使用环境智能系统对医护人员行为进行记录，而无需征得同意：（1）录音等记录是在准公共空间（如手术室、走廊或病房）进行的；（2）记录目的是改善患者护理状况；（3）存在适当的保障措施来保护个人隐私；（4）医护人员已被告知将进行录音。此外，医院方面需要特别注意对患者和医护人员以外的群体（如患者的亲友）有关信息的收集和使用，因为这类人群往往可能完全没有意识到监控的存在。

【嘉宾与谈】

王晨光教授

在嘉宾与谈环节，清华大学法学院卫生法研究中心主任、中国卫生法学会常务副会长王晨光教授对Cohen教授的主题演讲给予了高度评价，对其在医疗人工智能这一全新领域的独到见解表示赞赏。王晨光教授指出，人工智能与机器学习的发展分化出两个场景。一个是信息社会（Information Society）。在这一领域，使用人工智能主要是基于人的经验，通过对大数据的收集、整理和建模来进行预测。当问题出现时，很容易追踪到产生问题的人或是机器。另一个则为算法社会（Algorithm Society）。在算法社会里，人工智能通过深度学习自主开发出新的终端产品或者算法。虽然这一技术会极大地推动社会发展，然而其具体推算过程却是一个黑箱。当错误产生的时候，很难追溯到具体的人或部分。王晨光教授指出，对于医疗人工智能领域的黑箱，法律如何进行调控是一个巨大的挑战，值得系统研究。

满洪杰教授

山东大学法学院副院长满洪杰教授在评论中结合自身经历说明，现今智能手环等设备存在未获取用户同意即对使用者的健康数据进行追踪和监控的问题。他提出，法律需要更审慎、细致地平衡人工智能带来的风险和收益，特别是要回答是否值得以隐私的牺牲和自由掌控权的消失为代价来延长寿命等重大伦理问题。满洪杰教授指出，当前的法律体系只对人的行为进行了规制，而没有准备好对人工智能的行为及结果进行管控。他同时也问到，医疗人工智能的引入将医生设于一个选择困境，现行的侵权责任法需要如何系统变革才能实现与技术发展的良性衔接？

丁春燕副教授

香港城市大学法学院副院长丁春燕副教授在评论中认为，尽管人工智能的运用取得了一定的成效，但仍旧存在诸多局限性，比如人工智能所依据的数据集本身就是有偏差的。虽然人工智能在特定领域可能会超越人类，但它仍然可能出现错误，应关注的是法律如何应对这些潜在的错误，这在具体的个案场景下可能会更加复杂。人工智能应用造成损害的情况下，由于运行过程中的透明性不足，因此具体侵权行为者难以确定，侵权法有待改革以回应技术的发展。此外，还应考虑在损害发生的情况下，如何对病人进行合理的补偿，如何平衡技术的发展与用户的信任。同时，丁春燕副教授也提出了如下问题：人工智能是否可以取代人类？对于已经收集的病人数据的再使用是否需要重新征求明确的知情同意？在诊断、临床治疗外，将医疗人工智能用于对慢性病的预防和监控，法律责任是否有所区别？

江溯副教授

北京大学法律人工智能实验室副主任江溯副教授在与谈中认为，相较于自动驾驶和人脸识别，人工智能的医疗应用领域涉及的法律问题在国内目前讨论还较为欠缺。但是，由于医疗卫生与每个人直接相关，相较于交通、金融等领域的人工智能应用具有一定的特殊性，对其监管是一个格外重要的问题。江溯副教授在此提到Cohen教授的研究，即预测性分析模型的结构特征使得医学人工智能和机器学习的监管面临困境，FDA选择了通过区分锁定算法（Locked algorithms）和适应算法（Adaptive algorithms）的方式进行监管。江溯教授高度评价了Cohen教授的这一观点，即FDA当前的监管路径并不能够很好地解决问题，而Cohen教授提出的持续性风险监控模式（Continuous risk monitoring approach）不失为一种更好的监管方式。江溯教授对这一监管方式的具体架构和实际运用表示了强烈的兴趣并期待进一步的交流。

向文副教授

丹麦哥本哈根大学法学院副教授向文针对Cohen教授关于欧盟医疗人工智能的研究提出了两个问题：一是人工智能的发展将会起到促进欧盟的联合团结的作用，还是会挑战欧盟国家“共同价值”（Shared values），并引起成员国间的冲突，或影响成员国与欧盟之间的关系？二是考虑到欧盟各成员国对于人工智能的态度差异较大，是否可以向成员国提供在人工智能相关协议上的退出机制？

此外，在嘉宾与谈环节，中国人民大学数学科学研究院教授龚新奇就涉及医疗人工智能的临床诊断中医生的责任判断问题与Cohen教授进行交流并提出问题。中国人民大学高瓴人工智能学院许洪腾准聘副教授就欧盟国家过分渲染人工智能风险、忽视潜在利益的论调的看法与Cohen教授进行了交流并提出问题。中国人民大学未来法治研究院执行院长张吉豫副教授针对如何实现医疗数据集的充分代表性和广泛性发表了评论意见，并就美国在此方面的经验和效果提出问题。中国人民大学未来法治研究院副院长丁晓东副教授就在数据隐私和患者信息的两个类似领域中，是否存在可以共通适用的规则，以及个人信息保护领域的“忠实义务”学说问题与Cohen教授交流。中国人民大学未来法治研究院刘洋助理教授则就美国参议院通过议案，要求国家情报总监解密有关新冠病毒起源的情报，这是否合乎国际健康法和美国国内法的规定的问题与Cohen教授进行了交流。最后，中国人民大学未来法治研究院郭锐副教授就医疗人工智能的时代下保险政策的重新设计问题与Cohen教授进行了交流。

【主讲人回应】

在嘉宾与谈之后，Cohen教授对各位嘉宾的评论和问题作了细致回应。

针对数据集可能存在的偏差，Cohen教授认为确实是一个真正存在的问题，但在许多情况下，它仍然可能比现有的人工分析表现得更好。因为，医生个体完全有可能抱有着明显种族歧视的倾向。他说，缺乏代表性肯定是数据集偏差中的一个重要部分，但很多偏差的问题实际上并非是由于样本偏差。Cohen教授介绍了一个关于“再入院比例算法”上的研究，研究者表明虽然这个算法实际上是很有代表性的，但却仍然对不同群体产生了偏见。个中原因不在于数据集的广泛性，而在于围绕成本的参数化；这一形式的偏见，被称之为标签偏差(Labeling bias)，实际上是很难检测出来的。

针对侵权责任，特别是替代责任的问题，Cohen教授认为，即使医疗人工智能的建议是不正确的，医生遵循该建议并对患者产生损害，也并不必然产生侵权责任。因为，人工智能错误的建议满足了注意义务的标准，这就产生了一个很好的侵权法辩护。而在替代责任方面，这是一个有待持续研究的问题，Cohen教授认为对于医院系统或机构的责任，最好的类比实际上是雇佣关系，有时被称为认证过失（Negligent credentialing），因为当雇用一名医生或护士时，医院有义务审查他们的能力、纪律记录等。因此，思考医疗人工智能中替代责任问题的一种方式是，医院实际上是在雇用人工智能，医院不应该只考虑人工智能如何完成他们的工作，也应该考虑如何将人工智能整合入特定的医院系统。

针对欧盟的研究，Cohen教授认为新冠疫情的大流行证明了成员国间存在的分歧。事实上，欧盟一直在推动制定一个更全面的医疗人工智能相关的法规和指令，但他们处理医疗人工智能问题的方式与美国差异较大：欧盟希望通过一个类似于欧盟通用数据保护条例（GDPR）的综合法案对医疗人工智能法律问题进行规制，但美国则倾向于运用相对零散具体的法律、法规。考虑到成员国之间的分歧，Cohen教授认为美国的监管方式至少在涉及到人工智能监管时是更合适的。

针对医疗保险应该如何适应人工智能的应用，Cohen教授指出医疗保险的基本原则是“互助共济”，通过精算进行风险定价和费率厘定。而医疗人工智能的引入强烈地威胁着健康保险的基本原理：医疗人工智能预测性分析消除了不确定性；在一个由医疗人工智能进行完美预测的世界里，将按照每个人的确切成本定价；而健康保险所具有的成本分散的能力在某种程度上即取决于不确定性的存在，若严格依靠医疗人工智能预测的结果对每个人进行差异化定价，则会产生公平性的问题。Cohen教授考虑可以借鉴英国的人寿保险的操作方式，允许公司在一定范围内考虑医疗人工智能所预测的基因因素，然而不得超过某个阈值，以保证每个人至少可以获得基本的保险服务。

在两个多小时的精彩主题演讲和深入与谈交流后，本次讲座圆满结束。主持人熊丙万副教授对Cohen教授的精彩演讲和各位与谈嘉宾的深度互动再次表示感谢，并宣布此次讲座圆满结束。

(文：胡新平；图：王孝硕、位梦)