【作者简介】张吉豫：中国人民大学法学院副教授、博士生导师，未来法治研究院执行院长

【文章来源】《东方法学》2023年第2期（女学者特刊2）（总第92期）

【摘要】算法备案是我国在新时代创设的一项算法治理制度。这项制度是“有效市场与有为政府相结合”的治理原则在数字领域的延伸和创新，是在数字法治的实践背景下推进算法治理的一项重要举措。作为一项创新制度，需要以国家治理和数字法治的原理为指引，透视其法律属性、政策属性与治理功能，厘清算法备案对象所具有的技术与规范双重性质。在此基础上，以目的思维、合作思维、辩证思维、系统思维等科学方法推进算法备案制度建设，以良法善治的理念和机制，来规范、优化算法备案制度功能，进而最大限度地发挥其提高监管效能、控制算法风险、激励企业合规、保障公民权利、促进公共利益的作用，在法治的轨道上推进数字科技向善。

【关键词】算法备案；算法治理；人工智能治理；多元共治；算法透明；良法善治

算法备案是我国在新时代创设的一项算法治理制度。这项制度是“有效市场与有为政府相结合”的治理原则在数字领域的延伸和创新。自《互联网信息服务算法推荐管理规定》实施以来，国家网信办于2022年8月、10月及2023年1月先后三次公布了《境内互联网信息服务算法备案清单》，发布了223项算法备案。社会公众可以通过备案清单了解算法名称、算法类别、主体名称、应用产品、主要用途和备案编号等信息，并可以在互联网信息服务算法备案系统中进一步查询公开的算法基本原理等各项信息。《互联网信息服务深度合成管理规定》也规定了具有舆论属性或者社会动员能力的深度合成服务提供者，应当按照《互联网信息服务算法推荐管理规定》履行备案和变更、注销备案手续；深度合成服务技术支持者应当参照该款规定履行备案和变更、注销备案手续。
      我国的算法备案制度虽然开启于互联网信息服务领域，以《关于加强互联网信息服务算法综合治理的指导意见》以及前述两项管理规定为标志，但作为算法治理的一项制度创新，其未来适用范围却不局限于互联网信息服务领域，其制度属性和治理功能亟待深化研究。本文以算法治理体系和治理全链条为背景，以构建科学完备、公正合理、运行高效的算法备案制度和算法治理体系为宗旨，探讨算法备案的属性与治理功能，为未来算法备案制度的完善和适用范围扩展提供法理论证和建议。

一、算法备案制度的创设

随着数字中国建设的快速推进和数字技术的广泛运用，“算法泛在”已经成为数字社会的重要表征。从互联网空间中的内容推荐、商品推荐、活动推荐、好友推荐，到智慧家居、智慧交通、智慧医疗、智慧城市等诸多领域的数字化、智能化发展，其中都包含着各种各样算法的运行。算法在数字社会中“不仅成为生产生活的重要组织者，还是社会秩序的重要建构者”，在实际上构成信息推送、商品定价、信用评价、用人招聘、绩效计算乃至社会危害性评价、警力调配、城市规划等方方面面的实际规则，正日益广泛而深刻地影响着社会主体的行为、决策和权益。
      算法是一把“双刃剑”,在推动社会生产生活方式更新变革、加强各类决策和事务的自动化和智能化的同时，也可能给社会带来各种风险和隐患。算法黑箱、算法歧视、信息茧房、舆论操控、不正当竞争等各种问题逐渐显露，受到社会各界的广泛关注，并已经纳入国家治理范围。因此，算法治理越来越成为国家治理体系的重要组成部分，成为建立和维护数字社会法治秩序的“牛鼻子”。与此同时，近些年来，实务界和学界对于算法风险分级、算法影响评估、算法审计、算法责任、算法透明、算法解释等治理方法和制度工具进行了比较集中的讨论，专家们提出了分级分类治理、场景化治理、敏捷治理、多元共治等原则和理论。
      在互联网领域，一些算法服务时常为“舆论风暴”推波助澜，甚至成为一些“黑天鹅”“灰犀牛”事件的幕后推手。因此，互联网领域的算法治理迫在眉睫，各种治理方案应运而生。其中，创设算法备案制度就是一项关键举措。2021年9月，国家互联网信息办公室、中央宣传部等九部门联合发布了《关于加强互联网信息服务算法综合治理的指导意见》（以下简称《算法治理指导意见》），提出“利用3年左右时间，逐步建立治理机制健全、监管体系完善、算法生态规范的算法安全综合治理格局”，同时把算法备案管理明确列为“创新性地构建形成算法安全风险监测、算法安全评估、科技伦理审查、算法备案管理和涉算法违法违规行为处置等多维一体的监管体系”中的关键一项。其后，2021年底通过的《互联网信息服务算法推荐管理规定》（以下简称《算法推荐管理规定》）和2022年通过的《互联网信息服务深度合成管理规定》，分别规定了具有舆论属性或者社会动员能力的算法推荐服务提供者、具有舆论属性或者社会动员能力的深度合成服务提供者和技术支持者的备案义务。
      除互联网信息服务算法治理领域外，2022年发布的最高人民法院《关于规范和加强人工智能司法应用的意见》也提出，要“推动人工智能同司法工作深度融合，全面深化智慧法院建设，努力创造更高水平的数字正义”，在第6条中明确规定坚持“透明可信原则”，并具体指出要“坚持技术研发、产品应用、服务运行的透明性，保障人工智能系统中的司法数据采集管理模式、法律语义认知过程、辅助裁判推定逻辑、司法服务互动机制等各个环节能够以可解释、可测试、可验证的方式接受相关责任主体的审查、评估和备案”等。这里所列举的过程、逻辑等，在数字科技的语境下一般而言都属于算法或算法的一部分。可见，尽管我国当前尚未正式创设人工智能司法应用领域算法备案制度，但已经开启了司法人工智能算法的“审查、评估和备案”的实践。未来人工智能在司法领域将有更加广阔的应用空间，司法领域算法的备案制度也将是需要研究的重点领域。
      国际上也在探索一些具有登记环节的算法或人工智能治理工作。例如，荷兰阿姆斯特丹市、芬兰赫尔辛基市都在开发对于政府部门和公共事务领域的算法登记系统，并推动其使用，以期使公民能够更好地了解城市中使用的算法系统，并使公民在政府算法应用开发的早期就可以更好地参与。欧盟人工智能法案（The Artificial Intelligence Act，以下简称AIA）第51条也规定高风险人工智能系统在进入市场或投入服务之前，需要在欧盟数据库中进行登记。国内外这些相关探索和实践既对我们研究算法备案制度提供了实证素材和基础，同时又提出了许多需要攻坚克难的课题和重点领域。
      我国的算法备案制度是从目前算法运用最活跃、最前沿的互联网信息服务领域开启的，因为该领域是对个体权益、公共利益、社会稳定、国家安全最具重要影响的领域，对该领域的算法运用实行优先备案具有迫切性。在数字法治的实践背景之下，算法备案制度未来必将扩展和适用于更广的领域，在我国算法治理体系中发挥更加重要的作用。因此，我们有必要以当前的算法备案制度和实践为基本观察对象和思想客体，对算法备案制度开展研究，为完善算法备案制度、加强算法治理、保障数字科技健康发展，提供科学、管用的理论支撑和智力服务。

二、算法备案制度的属性与功能

面对算法备案这项新创设的制度，我们首先要做的研究工作是厘清其属性和功能。这也是数字法学领域当下的一项重大课题。算法备案是在我国现行备案制度下发展出来的一种新型备案制度，其属性复杂、功能多元。
      （一）我国现行备案形态
      备案是现代国家治理体系中的常态化制度。我国诸多现行法律、行政法规、地方性法规、政府规章、党内法规都使用了“备案”这一词语和表述，设定了具体备案制度与机制。尽管目前在法律法规规章等规范性文件中尚未形成统一的概念界定和类型划分，但其核心要义是：有关国家机关、社会组织、企业公司等法定主体依法依规向主管部门（机关）报备有关事项事由，供有关部门（机关）审查、审示、审核等。在实践中，我国目前的备案情况复杂多样，在制度范畴内，主要有以下类型：
      一是规范性文件的备案审查制度，即将行政法规、地方性法规、政府规章、司法解释及其他规范性文件按法定期限报法定的机关备案，由接受备案的机关进行分类、存档，在规范性文件的有效期内，依法对其审查、监督。1979年全国人大通过的地方各级人民代表大会和地方各级人民政府组织法拉开了备案审查制度的序幕，1982年12月4日五届全国人大五次会议通过的宪法为备案审查制度提供了正式的宪法依据。随着中国特色社会主义法律体系的完善和法治体系建设的深入推进，备案审查制度随之不断健全完善。立法法、各级人民代表大会常务委员会监督法等法律对备案审查制度进行了更为具体的规定，备案审查范围也由“立法型规范性文件”（或称“规范性法律文件”）拓展至“非立法型规范性文件”。党的十八届四中全会通过的《中共中央关于全面推进依法治国若干重大问题的决定》，明确提出要“加强备案审查制度和能力建设，把所有规范性文件纳入备案审查范围，依法撤销和纠正违宪违法的规范性文件，禁止地方制发带有立法性质的文件”。与此同时，党内法规的备案审查制度和工作机制也在不断健全和完善。《中国共产党党内法规制定条例》《中国共产党党内法规和规范性文件备案审查规定》相继出台，规定了对党内法规和党的规范性文件进行备案审查的内容、规则和程序。为了维护社会主义法治统一，维护宪法法律权威，形成良好的国家秩序，我国备案审查制度在涵盖行政法规、地方性法规、政府规章、司法解释等“规范性法律文件”和党内法规的基础上，进一步延伸至对国家、社会、公众、公民利益和公共秩序有广泛影响的社会规范领域。社会规范包括居民公约、村规民约、行业规章、社会组织章程、科技伦理等。中共中央印发的《法治社会建设实施纲要（2020-2025年）》在强调充分发挥社会规范在协调社会关系、约束社会行为、维护社会秩序等方面的积极作用的同时，提出“加强对社会规范制订和实施情况的监督，制订自律性社会规范的示范文本，使社会规范制订和实施符合法治原则和精神”。例如，教育部颁布的《高等学校章程制定暂行办法》就明确规定了作为大学自治规范的高等学校章程的备案与核准的内容和程序。国资委印发的《国有企业公司章程制定管理办法》《中央企业合规管理办法》等规范性文件规定了中央企业公司章程的合规管理与备案制度。
      二是行政备案制度，指公民、法人或其他组织依法将与行政管理有关的具体事务的相关材料向行政主体报送，行政主体对报送材料收集、整理、存档备查的一种行政法律制度。行政备案与行政许可不同。行政许可，是在法律一般禁止的情况下，行政机关根据公民、法人或者其他组织的申请，经依法审查，准予其从事特定活动的行为。而行政备案是一种更为柔性的规制工具，特别是在“放管服”改革的推动下，其在许多领域成为替代行政许可的一种手段。我国法律法规中存在众多的行政备案规定，属于不同领域分别立法的状态。在实践中各种以“备案”为名的制度中，存在一些“许可型备案”，即行政机关事先对备案材料进行实质性审查，如果行为人未完成备案将无法获得从事某项活动的资格或资质。有研究基于行政备案的不同目的和功能，将行政备案分为告知意义上的备案和监督意义上的备案。亦有研究者根据备案阶段、审查形式的不同，将规范意义上的行政备案分为预防型备案、告知型备案和后设型备案三种类型。
      除前述备案类型外，还有司法备案等类型。最高人民法院、最高人民检察院均设置了许多备案制度。例如最高人民法院《关于委托执行若干问题的规定》中规定了委托执行案件的备案，《人民检察院民事诉讼监督规则》中规定了《再审检察建议书》的备案，等等。
      （二）算法备案的法律属性、政策属性与治理功能
      我国当前在互联网信息服务领域实施的算法备案制度具有多重属性和特殊功能。
      第一，从依据来讲，我国实践中的算法备案是一种法律性、政策性混成制度。算法备案是根据《互联网信息服务算法推荐管理规定》《关于加强互联网信息服务算法综合治理的指导意见》《互联网信息服务深度合成管理规定》等具有法律效力的规范性文件而创设的一项制度，因而具有明显的法律属性，具有合法性、合宪性。同时，这些规范性文件大多是由国家行政机关和中共中央工作部门联合发布的，因而又具有政策性（党规性），具有法律和政策双重属性，不能简单地仅仅归结于法律范畴、行政范畴。
      第二，从受理算法备案的主体而言，目前实施的算法备案是一种行政备案。在《算法治理指导意见》中，算法备案作为算法监管体系中的一个环节，由各级政府网信办公室统一受理、负责审查监督。因而，算法备案，连同此前网信领域实施的非经营性互联网信息服务备案和区块链信息服务备案等，都是一种特殊的行政备案制度。由于国家互联网信息办公室与中共中央网络安全和信息化委员会办公室是党政合署办公，两个牌子、一个实体，因而算法备案也是党管网络、党领导数字治理的一项政策机制和举措。
      第三，从算法报备的主体来看，当前算法备案主要是一种企业合规管理。尽管《算法推荐管理规定》并没有明确将算法备案制度的适用主体限制为企业，但从《境内互联网信息服务算法备案清单（2023年1月）》看，目前223项算法的备案主体均为企业。在高水平社会主义市场经济体制下，加强合规管理，是企业不断提升法治水平、适应市场竞争环境、实现可持续高质量发展的必然要求，健全合规管理体系是企业生存发展的必要条件和重点任务。作为互联网企业、数字科技公司，其合规管理的特殊性在于算法合规管理，使涉及国家、社会、公众、公民个人权利、利益、尊严、福祉的算法必须既符合法律法规又符合科技伦理和公序良俗。算法备案为推动互联网企业、数字科技公司合规管理创造了良好的法治环境和制度机制。所以，算法备案制度不仅是监管机构对市场经营主体的一种监管手段，更是促进数字科技企业自身强化合规管理的契机和机制。
      第四，算法备案对象兼具技术性和规范性。算法正日益广泛地运用在国家治理和社会治理当中。一些算法在实际上发挥着与法律规范和社会规范相类似的作用。一方面，一些法律规范正逐渐发展出“数字化”“代码化”的形式。随着数字技术的发展和数字中国的建设，一些领域的法律法规可能被数字化、代码化，形成机器可读的法律规则或机器可执行的法律规则，即通过算法处理来实现某些监管任务或法律规则的自动执行，或者直接形成具体的执行该法律的算法规则以及可执行代码。这一场景中的算法既是法律规范的一种表达形式，也可以直接在数字空间中得以实施。特定领域法律规范的数字化、代码化的研究和探索已经开启。例如在金融科技监管领域，英国、美国等西方发达国家提出了将法律规范转化为机器可执行版本、机器可读规则、机器可执行规则等构想，并进行了一系列、多阶段的试点工作。我国也有专家指出，“智能化动态监管的实现依赖于金融监管规则的代码化或者说让机器可识别，即通过代码来进行自动化监管”。有专家建议在技术可支持的金融监管领域，监管法规在出台时即附有相应规则代码，并建议我国全国金融标准化技术委员会建立监管规则数字化标准等。面对法律信息化、规则代码化、法治数字化的滚滚浪潮和发展大势，有必要探索对这类与法律文本同步制定的代码形式的规则或规则指令建立备案审查制度，以对其合宪性、合法性、合理性等进行严格审查、审核。
      另一方面，在数字时代，算法因其对人们有着很强的控制力和影响力，而事实上形成为一种新型社会规范。学者们提出“代码即法律”“算法即规则”等命题，来反映算法的规范性及其对社会秩序的影响。进入数字时代以来，算法规则日益融入社会规范体系，并对社会秩序建构产生持续强大影响。一些算法在被具体编写成代码并应用在具有较高影响力的数字系统之后，就成了一种文字化表达的、在相关用户中运用的规范，其实际影响力和作用程度甚至超越了一般的居民公约、村规民约等社会规范。所以，算法备案不仅是单纯的技术备案，也是规范备案。在这个意义上，算法、算法规则的备案具有技术和规范双重性质，而且正是其规范性一面的备案凸显算法备案的重大意义。
      第五，算法备案是国家治理的机制创新。从《算法推荐管理规定》的具体制度设计可知，算法备案制度以告知作用为核心，使监管机构可以以较低的成本掌握必要的信息并用于决策和监督目的，从而提高决策质量、监督效率、治理能力。在这个意义上，算法备案是算法治理的必要制度和有效机制，是算法治理体系进而也是国家治理体系的重点环节。
      综上所述，可以得出一个基本结论：算法备案是由法律法规或法律类规范性文件规定的、带有刚性或柔性强制力的法律制度，兼具技术备案与规范备案的双重性质，是党依法管网治网、确保网络安全和创新发展的一项政策机制，是国家机关实施算法治理、推进数字治理现代化的重要抓手。算法备案作为一种新型备案制度，丰富了中国特色备案制度体系，将随着实践和理论的发展进一步扩展其适用范围、内涵和性质，从而发挥更大作用。从算法治理的客观规律和发展趋势来看，算法备案制度在未来还有更进一步扩展的实践和制度空间。我们应根据不同类型的算法治理需要，特别是国家和社会治理的急需，以科学方法推进算法备案制度高质量建设，使算法在法治和科学的轨道上健康运行，助力国家安全、社会稳定、人民幸福。

三、以科学方法推进算法备案制度的建设

在算法备案的诸多属性中，行政备案属性比较典型。作为一种行政备案，算法备案自然应当遵循行政法治的基本理念和原理，着重从“行政合法性”“行政正当性与合目的性”的维度进行考量，着眼于合法性控制、合理性建构、法治化运行。作为算法治理综合体系中的关键环节，算法备案制度构建中的重点难点在于在合宪合法的前提下，在数字治理现代化总体目标下，如何从其基本特征和治理功能出发，从过程和实体两个维度进行制度创设和功能优化，以使算法备案制度在整个算法治理链条中更好地发挥基础性、支撑性、保障性作用，使其内在机理和优势转化为算法治理效能。
      行政备案的基本特征是以信息收集为核心，缓解行政主体信息不充分、不对称的问题，以提高行政效能，降低公民获得信息的成本，有效发挥信息作用。因而，学界普遍认为行政备案是一种信息规制工具，是一种“信息收集、信息公开和信息共享机制”。我国现行行政备案事项主要集中于企业内部控制要素，包括四大类：企业内部环境备案、企业内部管理制度备案、企业内部风险因素预防备案和企业风险控制措施备案。这些信息基本上都掌握在行政相对人手中。通过备案制度的信息收集、存档备查，既有助于行政主体在掌握充分必要信息的条件下高效合理地作出行政决策又有助于行政主体对行政相对人进行指导监督。此外，信息的提交和在一定程度的公开，也能起到激励市场主体行为合规的积极作用。对算法备案的功能考察和制度设计，需要以行政备案的信息收集功能为基础，遵循行政备案及算法治理的基本理念和理论而进行。具体而言，在算法备案制度的研究和设计中，应当树立目的思维、合作思维、辩证思维和系统思维等科学方法。          （一）以目的思维明确算法备案制度方向
      对算法备案制度的完善和发展，首先需要树立目的思维，明确目的算法备案的目的和算法备案制度建设的方向。《算法推荐管理规定》开宗明义宣告其立法目的是“规范互联网信息服务算法推荐活动，弘扬社会主义核心价值观，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益，促进互联网信息服务健康有序发展”。从中可以看出，国家安全、社会公共利益、公民等主体的合法权益、互联网信息服务健康发展，是我国规范算法推荐活动、创设算法备案制度的根本目的，而且其目的是多元一体的。企业的算法推荐、政府的算法治理、算法备案规则的设定、对算法备案制度及其运行的评估，算法备案制度的完善发展，都必须紧紧围绕这些目的，不能偏离这个方向。这些目的是宏观的、总体的，根据算法风险的具体情况、不同治理工具，亦可提出具体目的目标（子目标），如提升算法的公开度、透明性、可解释性、可问责性，加强算法安全及合伦理性保障机制，促进企业合规经营管理等，用于指导具体规则的制定和实施。 
      （二）以合作思维推动算法备案制度共建
      “共建共治共享”“社会治理共同体”等科学先进的治理思想，其精髓是多元共治。我国在数字立法和数字治理领域充分体现了多元共治的思想理念。例如，网络安全法第6条规定国家“……采取措施提高全社会的网络安全意识和水平，形成全社会共同参与促进网络安全的良好环境”；数据安全法第9条规定国家“推动有关部门、行业组织、科研机构、企业、个人等共同参与数据安全保护工作”；个人信息保护法第11条规定国家：“……加强个人信息保护宣传教育，推动形成政府、企业、相关社会组织、公众共同参与个人信息保护的良好环境”，等等。鉴于算法应用的广泛性、算法问题的普遍性、算法治理的复杂性、算法发展的快速性，在算法治理中应当贯彻“党委领导、政府负责、民主协商、社会协同、公众参与、法治保障、科技支撑”的社会共治理念。多元共治是良政善治的重要标志，是实现国家和社会治理现代化的必由之路。从依靠高权规制走向强化合作治理，恰恰是备案制度的一大制度优势。以往的行政许可、处罚等规制工具的干预程度较高，不可能普遍适用于广泛存在而又快速发展的所有算法领域。尽管行政许可也可以解决信息不对称，但由于其需要事先确定审查规则，并以此来衡量是否许可进入市场，具有较高的制度成本，且可能形成抑制竞争及权力滥用的风险。信息经济学理论认为，当政府缺乏必不可少的信息来完成一项公共任务且私人行动者拥有信息时，公私合作就势在必行，而非一种选择。在算法治理领域，信息是多元合作的必要基础，其意义在于：第一，为监管机构提供算法应用的具体情况及评估信息，便于科学有效监管；第二，面向社会公开的信息内容可以为社会监督、公众维权提供一定的线索和证据；第三，提交备案信息可以促使企业认真审查算法并开展自评估，激励企业更好地开展合规建设和促进数字向善。这几个方面结合起来就达到了多元共治的境界。
        鉴于多元共治在算法治理中的重要意义，以及备案制度在强化合作治理方面的制度优势，在算法备案制度建设中，我们应该秉持合作思维，促进多元主体敏捷联动、形成合力，发挥科技、法律、政策、道德等多维手段有机融合、相辅相成的共治作用。
      （三）以辩证思维统筹算法备案制度安全发展
      习近平总书记指出：“我们的事业越是向纵深发展，就越要不断增强辩证思维能力。”辩证思维是我们党在革命、建设、改革中不断取得胜利的诀窍，是对马克思主义辩证法的传承和发展。算法备案制度建设涉及一系列重大关系，其中安全和发展是具有全局性、决定性的关系。在算法备案制度考察和设计中必须树立辩证思维，以科学辩证法统筹安全和发展。一方面，从价值论层面，要将安全和发展相统筹作为制度建设的基本原则。处理好安全和发展的关系，是算法治理领域的核心问题，也是整个数字科技治理领域的难点和重点。2003年发布的《国家信息化领导小组关于加强信息安全保障工作的意见》就明确提出，“正确处理安全和发展的关系，以安全保发展，在发展中求安全”。党的十八大以来，以习近平同志为核心的党中央多次强调安全和发展的辩证关系，指出“安全和发展是一体之两翼、驱动之双轮”“安全是发展的前提，发展是安全的保障”“要坚持促进发展和依法管理相统一，既大力培育人工智能、物联网、下一代通信网络等新技术新应用，又积极利用法律法规和标准规范引导新技术应用”。我国数字领域的几部重要法律均明确规定了统筹安全和发展的立法目的。算法备案制度建设必须遵循数字领域的这一基本原则，特别是注重发展思维，使算法治理体系能够真正赋能算法可信发展。
      另一方面，从方法论层面，为创设科学有效的算法备案制度、制定出求真务实的备案规则和程序，必须坚持辩证思维，深刻把握监管对象及监管能力、监管制度发展的客观规律与条件，深刻把握算法技术发展的客观规律，深刻把握算法应用的高度动态性、风险的难以准确预测性以及算法安全性、透明性、可解释性、公平性、合伦理性只能在发展中不断增强的规律，建立符合科技发展规律、与科技发展水平相适应、能够科学有效推进科技向善的法律规范和监管体系。面对飞速发展的算法技术及应用，在缺少完善监管理论和制度建设的当下，应当建立一种动态的而非静态的、弹性的而非固化的治理体系，在更多领域主要依靠算法备案和其他制度的有机联动来监管。算法备案的信息收集功能也需要针对未来进一步完善分级分类的、场景化的算法治理体系来进行考量。还要提高辩证思维能力，善于运用备案制度和机制破解当前数字治理领域存在的“治理赤字”现象。
      （四）以系统思维构建算法备案制度体系
      算法备案初看起来只是算法治理的一个制度，但构建这个制度并保障其在科学和法治的轨道上运行，却是一个系统工程，必须以系统观念和思维全面、协调、有机推进。“系统观念”是习近平总书记倡导的具有基础性的思想和工作方法，坚持系统思维是习近平新时代中国特色社会主义思想的世界观和方法论的基本要义。研究和设计备案制度必须坚持系统观念、系统思维，把算法备案放在整个算法治理体系和数字法治体系之中进行通盘考虑。在算法治理体系和数字法治体系中，各个环节、各个节点是相互链接与耦合的，各种监管规则机制之间是互联互通、动态融合的，而非静态、割裂和单维度的，故算法监管需要进行结构化的系统设计。算法备案制度建设应特别注重这种系统思维。在《算法治理指导意见》中，国家主管部门运用系统观念和系统思维，提出建构算法安全风险监测、算法安全评估、科技伦理审查、算法备案管理和涉算法违法违规行为处置等多维一体的监管体系。
      算法备案制度实施也需要坚持系统观念和系统思维，把算法备案的各个主体、要素、环节、节点整合到算法治理体系之中。例如，算法安全评估和科技伦理审查都可以分为内部评估和外部评估两种形式。其中，算法实施主体内部的算法安全自评估和科技伦理自我审查的结果，可以与算法备案制度结合起来。我国《算法推荐管理规定》第24条即规定，算法自评估报告也需要作为备案内容提交。算法备案信息可以为违法违规行为的发现提供一种信息来源，并可以用于优化算法风险监测，以及作为开启外部算法安全评估和科技伦理审查的一项动因。这些似乎是独立的备案环节、节点在实践中是彼此链接的，是算法备案制度动态化运行的要素互动。

四、以良法善治规范算法备案的制度功能

算法备案制度与算法本身一样，也是一把“双刃剑”。需要将其纳入良法善治的轨道上，使其释放正能量，发挥好作用，保障社会公共利益，保护公民法人权益，提高政府治理效能。如果偏离了良法善治的轨道，滥用或无限扩张算法备案制度，必将妨碍或遏制数字科技、数字经济的发展，其结果不仅对公共利益、国家安全、个体权利无益，还会导致备案制度异化甚至夭折。因此，需要用良法善治来规范算法备案的制度功能，使算法备案本身成为新时代良法善治的生动实践和标志。
      （一）算法备案的复合型制度功能
      算法备案具有一系列制度性功能，我们将其称为“复合型制度功能”，举其要者，有：
      1.获取算法信息，提升监管机构治理效能
      构建算法治理体系需要立法机构及监管机构掌握算法运用现状及动态，对各类算法风险进行科学评估，以建立分级分类的算法治理体系。通过算法备案制度，有关国家机关和管理部门依法对算法备案的内容进行整理、归纳和分析，及时获得社会中广泛运用的算法的动态信息，为进行算法风险分级分类、精准研判算法风险程度与范围、形成预防方案、锚定监管重点、制定算法安全技术标准等，提供切实的基础。
      2.推动算法透明，便利社会公众参与治理
      算法备案收集的信息在主要为政府监管决策使用的同时，部分信息将向社会公众公开披露。这毫无疑问也是提升算法透明度的一种制度设计。算法透明一直是算法治理领域颇受关注的维度。面向公众的算法透明与事后的算法解释不同，它有助于在事前从整体上帮助消费者更好地了解算法对自己行为和权益有无影响或有多大影响，从而增加对算法的信任，也有助于消费者及时发现算法的问题，有的放矢地维护自己的合法权益。不仅如此，基于对算法情况的了解，还可以更好地帮助消费者在各种涉算法的产品或服务间进行选择，使自己的消费权益及安全度最大化。
      3.促进企业合规，推动数字科技向善发展
      算法备案信息具有促进企业自治和合规的功能。企业为提交备案信息，必然要对相关信息内容予以关注和重视，从而进行内部机构和制度建设，开展算法评估。适当的信息公开可以减轻信息不对称，使消费者能够在具有更加充分信息的基础上更好地进行算法服务选择。正如食品配方可以帮助消费者选择合适的食品一样，一些受到公众关注的算法信息说明能够帮助消费者进行理性选择算法服务，进而使企业在市场竞争的驱动下更积极地优化公众关注的算法问题，在公正、无歧视、符合伦理价值等维度进行创新，推进数字科技向善发展。
      在这些功能之中，信息收集功能已被备案制度作为其核心功能，其他两项功能及可能的扩展功能，还需要算法备案制度的进一步检测、评估和发展，以优化备案制度功能。以下，本文将以良法善治为目标，从算法备案的适用范围、备案内容、公开信息、制度约束等方面论述备案制度优化问题。
      （二）算法备案的适用范围
       何种算法应用需要进行备案，这是算法备案制度运行首先需要考虑的问题。算法应用是否纳入行政备案监管，需要考量如下因素：1.算法应用与公共事务、社会公共利益的关联程度。存在关联且关联度较高就应纳入备案管理，如果没有直接关联或关联度偏低，则无需纳入备案管理，以减轻企业负担，降低行政管理成本。当然，算法应用的用户数量也应当是考量的因素。2.算法应用的风险等级。应对不同领域应用的不同算法进行风险分级分类。对风险水平较低，对公民权益、公共利益、社会秩序影响不大的算法可主要由企业自行治理，也可鼓励企业进行自愿备案。而对具有很高风险的算法应用，例如自动驾驶，则可采用行政许可等更加深度规制的方式。3.平等关系中弱势主体倾斜保护选项。例如，行政机关对劳动合同进行备案，目的是监督强势主体（如雇主）守法诚信，保障劳动者这一弱势主体的合法权益；类似地，对于劳动者工作调度、报酬计算、工作时长、奖惩等算法的备案，主要作用也应是对弱势主体权益的保护。4.公民事后维权的可能性。如果属于一般算法风险，并且事后维权比较便利，例如从算法输出就能够判断是否构成侵权，就可重点考虑主要依赖侵权责任法进行救济的适当性。5.政府机构的知识、经验和信息积累情况。如果政府机构目前不能设计出科学合理且可操作的具体规制规则，则应考虑先通过备案制度促进企业自治，并积累政府监管所需的信息。
      （三）算法备案的备案内容
      信息收集具有一定的成本，需要在法治要求和算法治理需求之下进行考虑。算法备案信息的考虑主要包括如下方面：（1）合法性。信息收集应当具有法律依据，应当是法律、行政法规、地方性法规、政府规则、党内法规等规范性文件明确规定的，且应当遵循“法定职责必须为、法无授权不可为”的基本原则。（2）正当性及合目的性。信息收集的必要性、有益性和经济合理性。该信息应是主要掌握在算法服务提供者手中的内部要素，行政机构无法从外部进行收集；并且应该是依法进行算法治理所必要的。信息收集应当能够支持算法备案在算法治理综合体系中更好地发挥作用。
      当前《算法推荐管理规定》中规定的备案内容包括服务提供者的名称、服务形式、应用领域、算法类型、算法自评估报告、拟公示内容等信息。根据互联网信息服务算法备案系统中的具体情况，填报信息主要包括三部分：算法主体信息、算法信息（备案信息）、产品及功能信息。具体来看，除了一些关于算法主体等的基本信息之外，备案内容主要包括如下方面：
      1.算法基本情况信息
      主要包括算法类型、算法名称、算法数据、算法模型、算法策略和算法风险与防范机制等信息。其中算法数据包括输入数据的模态、输入的人物特征是否包含生物特征或身份信息、输出数据的模态，并可以根据算法的具体情况选择填写训练数据的来源等。这些信息的备案有助于监管机构对实践中运用的算法情况获得更细致的了解，并从企业实践角度获得关于算法风险和防范机制的补充信息，进而调整规制重点和策略，有助于形成对行业的监管和指导意见。
      2.算法安全自评估情况
      算法备案与算法自评估制度的结合，可以有效地推动算法自评估的开展，激励企业自治，同时为监管机构提供有利于监管目的实现的重要信息。对于监管机构和社会公众关心的重要问题，可以通过自评估模板的设计推动企业开展评估，强化问题意识，针对存在问题进行调整和优化。
      3.算法安全合规内部制度建设
      《算法推荐管理规定》第7条明确规定了算法推荐服务提供者应当落实算法安全主体责任，建立健全算法机制机理审核、科技伦理审查等一系列管理制度和技术措施。目前算法备案中要求的备案信息包括算法安全责任人、算法安全机构设置和算法安全管理制度建设情况等。备案人需要阐述算法安全专职机构的设置、职责分工、部门责任范围等，以及算法安全工作人员的任职要求、算法安全工作人员配备的规模、算法安全技术保障措施等内容，并阐述《算法推荐管理规定》中规定应建立的算法安全自评估制度、算法安全监测制度、算法安全事件应急处理制度、算法违法违规处置制度等的设计和考虑。对这些已有的规定需要细化规制和补充完善。目前的备案内容是普适的、格式化的规定。未来随着算法备案的实践和发展，应当针对不同领域、不同风险级别和不同类型的算法，建立更精细化的备案内容要求。例如，如果算法对于数据依赖性较强，且所在领域数据歧视可能引起较高的风险，可以在算法安全合规内部制度建设及自评估报告中加强对数据纠偏等制度的提示以及相关评估内容的引导。同时，为了更好地推动数字向善，应当鼓励企业持续提供关于自己在算法公平性、可解释性、合伦理性、合法性、权利保护等方面的规划、工作及进展。这些信息的统合考察可为监管机构提供关于相关技术和机制的业界普遍水平及发展动态的参考，帮助科学决策，并且在能够证实的情况下可以与企业的注意义务相关联，作为判断企业是否具有过错的一项考量因素。
      信息共享也是信息规制工具的一项功能。从系统思维上来看，在需要备案的信息中，算法数据相关信息，信息安全检测、数据安全监测、用户个人信息安全检测制度与技术保障措施，以及数据使用违规处置、信息安全违规处置制度等制度信息的备案，不仅可以帮助监管机构了解数据偏差问题，更可以在合法情况下用于信息安全、个人信息保护、数据治理领域的监管目的。
      （四）算法备案的公开信息
      目前我国算法备案制度中的公开信息包括强制公开信息和自愿公开信息两种方式，即采用了把向行政机关报备的信息与向社会公众披露的信息相区分的模式。这显然有助于在算法透明的价值与其他价值之间取得合理的平衡，兼顾商业利益与公众保护。算法备案中公开信息的具体规定包含着复杂的价值平衡：一方面是用户及公众的知情权以及相关的消费者权益等，另一方面则是技术创新和知识产权保护、企业竞争利益、国家竞争力、算法安全乃至国家和社会安全等价值。首先，算法及相关信息往往具有秘密性、保密性、价值性特征，可能构成企业的商业秘密，涉及对技术创新的知识产权保护以及企业的竞争利益。其次，算法信息的公开可能引起恶意算法博弈或称算法算计，相关主体可能利用算法信息来开展恶性博弈、算计算法，从而可能引起不正当竞争、侵害消费者权益等问题。搜索引擎优化（Search Engine Optimization，以下简称SEO）问题就是一个经典实例。为了使得网站可以通过对搜索引擎收录及排序算法等的了解，合理、科学地修改网页内容、优化网站技术，进而优化自身网站在搜索引擎中的收录数，吸引更多与自身网站内容和业务相关的高质量流量，使搜索引擎自身也可以提升用户体验，搜索引擎公司往往会发布《搜索引擎优化指南》。但相关信息也往往被一些“黑帽子SEO”所滥用，利用和放大搜索引擎算法中的策略缺陷，通过采用大量使用垃圾关键词、产生大量低质量页面、产生人工的链接网络、创造欺骗性页面（搜索引擎和用户看到的不一样）等各种恶意手段来获取与网页内容、质量不符合的排名和流量，导致搜索结果质量和用户搜索体验下降。但也需要看到，搜索引擎公司并没有因为需要处理大量由于搜索引擎算法策略公开问题，就取消了《搜索引擎优化指南》，而是依旧会向公众提供关于搜索引擎收录、排序等算法的一些信息，这其中仍然反映出价值与风险之间的平衡考虑。类似地，算法信息的公开也可能给其他干扰算法结果、破坏系统正常运行的不法行为提供信息，可能引起系统安全、社会安全乃至国家安全问题。最后，一些算法信息向公众的公开可能影响国家竞争力。《中国禁止出口限制出口技术目录》中“限制出口部分”包括“基于数据分析的个性化信息推送服务技术”，表明此类技术已经进入国家重点保护范围，增强算法透明度可能使受《技术目录》保护的算法设计被破解的概率增加，使限制出口的规定在很大程度上失去意义。因此，在算法备案的信息公开规则设计中，应该审慎衡量特定信息公开对于风险和收益的影响。由于不同领域、不同类别、不同层次的算法信息公开对利益平衡的影响可能不同，因此最终优化的算法备案信息公开规则应当采取分级分类、差异化设置。
      我国《算法推荐管理规定》中并没有具体列举要求通过算法备案公开的信息，在该规定实施中普遍公开的备案信息非常有限。备案人在备案时可以自主填写拟公开的其他信息。例如针对公众关注的信息茧房问题，在备案中，抖音个性化推荐算法解释了为避免“信息茧房”问题出现而专门设计的“兴趣探索”机制，网易云音乐个性化推荐算法、网易LOFTER个性化推荐算法、雪球个性化推送算法、美篇首页推荐算法、欢太浏览器信息流推荐算法等也提到了为解决“信息茧房”问题进行了设计，不过没有陈述细节，但也可以使公众了解到算法服务提供者对该问题关注并采取了相应措施。
      作为一个发展中的大国，我国的信息公开方式现阶段有自己的合理性与优越性。相比之下，欧盟人工智能法案第51条规定了高风险人工智能系统在进入市场或投入服务之前，需要在欧盟数据库中进行登记，并且根据第60条规定，登记信息是公众都可以访问的。这种制度设计没有区分信息公开的对象范围，或将限制登记信息范畴，或将不利于对其他利益的平衡。从我国国情和数字科技发展现状出发，本文认为，在现阶段算法备案信息公开主要以自愿为主、兼顾法律法规的明示要求的模式，符合良法善治的实践要求，也是引导和保障数字科技跨越式发展的首选。
      但是，应当健全企业自愿公开的规章制度，因为从目前实践来看，企业自愿公开的信息仍比较有限，并且存在信息量较低的复用表达套路。以发展思维来看，接下来应该结合算法信息公开相关理论，对于算法备案实践中已公开信息的情况及其引起的社会影响进行科学研判，分级分类地适当扩大强制公开的算法备案信息范围。特别是以合作思维、系统思维考察不同场景下的算法应用，对于实现算法的多元共治具有积极意义。特别是对于算法服务提供者合法权益以及社会秩序、国家安全影响较小的信息，可扩大信息公开的内容与范围。例如，解释用户或公众所关心的特定因素对算法决策的具体影响，对于信息茧房等公众关注较高的特定问题的说明，有关企业在推进数字向善方面的自评估和举措等，都应当纳入信息公开范围。在实践中，监管部门可结合信息收集情况，通过设计更加精细的、引导性的表格，指导和规范企业的算法信息公开活动。
      （五）算法备案的制度约束
      尽管算法备案制度不同于许可制度，它不以直接调整相对人权利义务关系为目的，但在实际上它会影响到行政相对人的权利和义务，例如企业的技术秘密、知识产权保护、企业的算法竞争力、企业的经济效益、社会效益、国际信誉等；而且如果没有按照规定进行备案则需要承担行政法律责任。《算法推荐管理规定》明确规定了违反算法备案规定的法律后果。未来随着算法备案适用范围的扩大、形式的多样，不可避免地将引起行政主管部门和市场主体之间权力与权利的冲突、引起企业与企业之间的利益竞合等。因此，算法备案本身必须具有明确的法律依据和界限，备案制度规则以及备案信息要求（例如必填项），应该接受合法性备案审查。在条件成熟时，提高算法备案制度的法律位阶。同时，应当建立和完善算法备案主管部门的自律机制和法律责任，建立准许企业主体充分表达异议、申请行政复议的制度和程序，以推动实现算法领域的良法善治。这是建设法治政府的必然要求，也是推进数字法治的重要方面。
      算法备案制度要发挥实效，离不开对备案信息的有效利用。目前我国行政备案制度中对行政主体的备案职责缺乏明确规定。在健全和完善算法备案制度进程中，以法律、法规或规章形式规定行政主体的备案职责，不仅是实现算法备案功能的需要，更是保护数字科技企业合法权益的需要。我们应当明确行政主体的信息审查职责和监督职责，完善事中事后监管机制，特别是建立与算法安全风险监测、算法安全评估、科技伦理审查、涉算法违法违规行为处置等制度和机制的联动，并积极利用人工智能等技术降低算法备案制度成本，发挥算法备案信息的价值，提升算法备案制度的实效。

结语

数字时代，算法安全、算法公平、算法透明、算法操作对公共利益和公共秩序的影响等，都是人们普遍关注的首要问题，也是国家治理的关键问题、新兴问题。通过算法治理实现数字向善的目标不会一蹴而就，而是需要通过建立和实施科学有效依法合规的制度机制来有序有效推进，算法备案制度就是其中一项创举。算法备案制度以信息收集为核心、以柔性治理为特点，有助于形成便利多元主体参与的协同性治理、符合科技发展规律的动态性治理、多重途径有机结合的复合型治理模式，发挥提高监管效能、控制算法风险、激励企业合规、保障公民权利、促进公共利益的作用，在法治的轨道上推进数字科技向善。实践发展永无止境，制度建设工作也永无止境，在建设数字中国和法治中国的新征程上，构建科学完备、公正合理、运行高效的算法备案制度和算法治理体系任务依然重大。