English

检测到您当前使用浏览器版本过于老旧,会导致无法正常浏览网站;请您使用电脑里的其他浏览器如:360、QQ、搜狗浏览器的极速模式浏览,或者使用谷歌、火狐等浏览器。

下载Firefox

新闻中心

/根目录 /首页 /新闻中心

【刘品新 网眼观法】法律人工智能的法治规约——智慧检务沙龙第十一讲发言精选

时间:2018-07-09

B1

(作者为智慧检务创新研究院副院长、中国人民大学法学院教授、博士生导师)

一、该不该规制法律人工智能

当前,以计算机和互联网技术为代表的第四次工业革命,正深刻改变着我们的工作、学习和生活,大数据、云计算、人工智能等新科技风起云涌。科技与法治的融合成为一种不可逆的潮流。在这一进程中,一大批法律人工智能产品不断进入公众视野,像这两天检察装备展上大数据司法办案辅助系统、智能视频审查系统、证据标准与风险防控系统、智能语音识别系统,让人眼花缭乱……这不由地令我们思考:对法律人工智能是否需要进行法治规约

答案无疑是肯定的。因为司法是关于正义的活动,是维护社会公平正义的最后一道防线。尤其是刑事司法,“生杀予夺事,能不谨慎哉”!

在当代,法律人工智能产品正处于大规模推出阶段,法律人是不能袖手旁观的,应当积极地介入、适时地引导。我曾对某地的刑事办案辅助系统进行过简单的小测试:当时该系统平台向大家展示的是“盗取自行车价值2000元”,智能量刑辅助系统给出的量刑建议是“6个月”。当我把金额2000元改为20万元时,系统给出的量刑建议是“12个月”……当我把金额改为200万元时,系统给出的量刑建议是“24个月”。这个小例子说明,很多法律人工智能产品尚不成熟,对其进行法治规约是必由之路。

二、法律人工智能的规制路径

那么,如何规制法律人工智能呢?也就是对相关产品如何监管呢?社会上主要有两种观点:

第一,对数据源进行规制。法律人工智能产品要想发挥实效,就离不开公检法机关提供的海量数据,司法大数据的数量和质量都会影响法律人工智能产品作用的发挥。保障司法数据的质与量是一项基础工程。我相信,随着统一政法网的建设,随着时间的推移,数据源可靠和足够大的问题,应该会得到彻底的解决。

第二,对算法进行规制。算法是指解题方**而完整的描述,是一系列解决问题的清晰指令。有时,这一概念可以简化为法律人工智能产品的“技术方案”。通过对算法的规制,我们可以实现对法律人工智能进行有效引导和监管。

限于发言时间,今天我主要说后一方面。

三、如何对法律人工智能进行算法规制

关于对法律人工智能进行规制,主要提出过两种方法:一是要求确保算法的公开性,二是追求实现算法的可解释性。

第一种意见遭到了很多科技公司的抵制。对于公司来说,每个具体的算法都是商业秘密,是展开商业竞争的有力武器,如果将算法公开,很可能导致公司在竞争中处于劣势。算法公开的方式对于公司来说行不通的。

当然,从理论上讲,实现算法公开确实能够起到一定的规制作用。算法公开了,人们可以看出法律人工智能产品存在什么问题。比如,某省司法机关研发的大数据案件智能研判系统中有一项是“裁判结果偏离度分析”,系统可将公诉人案件办理中认定的定罪量刑要素直观体现,采用实体识别等技术,自动抽取起诉意见书、起诉书、量刑建议书、判决书中犯罪事实、证据材料、量刑等实体信息进行比对,查看同一案件的侦查、起诉、审判等不同诉讼环节,对事实认定、证据采信、法律适用上有无偏离,偏离多少。但这一机理公开后,人们就会发现实际上这种偏离度分析的意义不大。因为正常情况下,公检法三机关的材料本来就应该是不完全一样的,有偏离度是一种很正常的现象。

第二种意见,人工智能算法的可解释性问题已经得到了科技界的重视。例如,美国计算机协会美国公共政策委员会也在 2017 年初发布了《算法透明性和可问责性声明》,提出了七项基本原则,其中一项即为“解释”,希望鼓励使用算法决策的系统和机构,对算法的过程和特定的决策提供解释,尤其在公共政策这个领域里尤为重要。但是,对算法进行解释可谓是“仁者见仁,智者见智”,并没有统一的解释方法。比如,某省司法机关将新兴的技术手段应用于检察官绩效评价,但是实务中很多检察官拒绝承认这种考核排名。因为这项考核评价系统没有上下游的办案数据,仅仅依据“孤立”的数据计算出一些标准,这些标准是值得商榷的。

如上可见,法律人工智能的算法公开和算法可解释这两种方法的弊端很多。在此,我提出一种新方案:实现法律人工智能算法的可验证性。具体来说,审核一项法律人工智能及其产品是否可用、是否可以推广,我们不需要一定知道其中利用的算法是什么,也不一定需要设计者解释这种算法,要做的就是对算法输出进行测试。无论是黑箱测试,还是白箱测试,都是允许的。关键是测试的量得足够。我建议,对任何一项法律人工智能产品至少进行1000例以上的案例测试。

这种方法类似于司法鉴定行业使用的鉴定方法评测工作。鉴定机构需要依据相关鉴定标准才可进行鉴定,法律人工智能领域也要用可以验证的技术方案。

谁来做这件事?谁能做好这件事?我斗胆建议,交给“智慧检务创新研究院”这样的专业机构。由它或它们牵头,探索通过算法可验证性的标准,对法律人工智能产品进行规制。