（作者为智慧检务创新研究院副院长、中国人民大学法学院教授、博士生导师）

一、该不该规制法律人工智能

当前，以计算机和互联网技术为代表的第四次工业革命，正深刻改变着我们的工作、学习和生活，大数据、云计算、人工智能等新科技风起云涌。科技与法治的融合成为一种不可逆的潮流。在这一进程中，一大批法律人工智能产品不断进入公众视野，像这两天检察装备展上大数据司法办案辅助系统、智能视频审查系统、证据标准与风险防控系统、智能语音识别系统，让人眼花缭乱……这不由地令我们思考：对法律人工智能是否需要进行法治规约

答案无疑是肯定的。因为司法是关于正义的活动，是维护社会公平正义的最后一道防线。尤其是刑事司法，“生杀予夺事，能不谨慎哉”！

在当代，法律人工智能产品正处于大规模推出阶段，法律人是不能袖手旁观的，应当积极地介入、适时地引导。我曾对某地的刑事办案辅助系统进行过简单的小测试：当时该系统平台向大家展示的是“盗取自行车价值2000元”，智能量刑辅助系统给出的量刑建议是“6个月”。当我把金额2000元改为20万元时，系统给出的量刑建议是“12个月”……当我把金额改为200万元时，系统给出的量刑建议是“24个月”。这个小例子说明，很多法律人工智能产品尚不成熟，对其进行法治规约是必由之路。

二、法律人工智能的规制路径

那么，如何规制法律人工智能呢?也就是对相关产品如何监管呢？社会上主要有两种观点：

第一，对数据源进行规制。法律人工智能产品要想发挥实效，就离不开公检法机关提供的海量数据，司法大数据的数量和质量都会影响法律人工智能产品作用的发挥。保障司法数据的质与量是一项基础工程。我相信，随着统一政法网的建设，随着时间的推移，数据源可靠和足够大的问题，应该会得到彻底的解决。

第二，对算法进行规制。算法是指解题方**而完整的描述，是一系列解决问题的清晰指令。有时，这一概念可以简化为法律人工智能产品的“技术方案”。通过对算法的规制，我们可以实现对法律人工智能进行有效引导和监管。

限于发言时间，今天我主要说后一方面。

三、如何对法律人工智能进行算法规制

关于对法律人工智能进行规制，主要提出过两种方法：一是要求确保算法的公开性，二是追求实现算法的可解释性。

第一种意见遭到了很多科技公司的抵制。对于公司来说，每个具体的算法都是商业秘密，是展开商业竞争的有力武器，如果将算法公开，很可能导致公司在竞争中处于劣势。算法公开的方式对于公司来说行不通的。

当然，从理论上讲，实现算法公开确实能够起到一定的规制作用。算法公开了，人们可以看出法律人工智能产品存在什么问题。比如，某省司法机关研发的大数据案件智能研判系统中有一项是“裁判结果偏离度分析”，系统可将公诉人案件办理中认定的定罪量刑要素直观体现，采用实体识别等技术，自动抽取起诉意见书、起诉书、量刑建议书、判决书中犯罪事实、证据材料、量刑等实体信息进行比对，查看同一案件的侦查、起诉、审判等不同诉讼环节，对事实认定、证据采信、法律适用上有无偏离，偏离多少。但这一机理公开后，人们就会发现实际上这种偏离度分析的意义不大。因为正常情况下，公检法三机关的材料本来就应该是不完全一样的，有偏离度是一种很正常的现象。

第二种意见，人工智能算法的可解释性问题已经得到了科技界的重视。例如，美国计算机协会美国公共政策委员会也在 2017 年初发布了《算法透明性和可问责性声明》，提出了七项基本原则，其中一项即为“解释”，希望鼓励使用算法决策的系统和机构，对算法的过程和特定的决策提供解释，尤其在公共政策这个领域里尤为重要。但是，对算法进行解释可谓是“仁者见仁，智者见智”，并没有统一的解释方法。比如，某省司法机关将新兴的技术手段应用于检察官绩效评价，但是实务中很多检察官拒绝承认这种考核排名。因为这项考核评价系统没有上下游的办案数据，仅仅依据“孤立”的数据计算出一些标准，这些标准是值得商榷的。

如上可见，法律人工智能的算法公开和算法可解释这两种方法的弊端很多。在此，我提出一种新方案：实现法律人工智能算法的可验证性。具体来说，审核一项法律人工智能及其产品是否可用、是否可以推广，我们不需要一定知道其中利用的算法是什么，也不一定需要设计者解释这种算法，要做的就是对算法输出进行测试。无论是黑箱测试，还是白箱测试，都是允许的。关键是测试的量得足够。我建议，对任何一项法律人工智能产品至少进行1000例以上的案例测试。

这种方法类似于司法鉴定行业使用的鉴定方法评测工作。鉴定机构需要依据相关鉴定标准才可进行鉴定，法律人工智能领域也要用可以验证的技术方案。

谁来做这件事?谁能做好这件事?我斗胆建议，交给“智慧检务创新研究院”这样的专业机构。由它或它们牵头，探索通过算法可验证性的标准，对法律人工智能产品进行规制。