Jeremias Adams-Prassl“隐蔽雇主：工作中的算法——‘新就业形态’的规范与发展前沿论坛”顺利举办

Jeremias Adams-Prassl

牛津大学法学院教授

2020年11月11日晚，由中国人民大学法学院社会法教研中心、中国人民大学未来法治研究院主办的“隐蔽雇主：工作中的算法（Black Box Boss: Algorithms at Work）——‘新就业形态’的规范与发展前沿论坛”通过线上会议的方式成功举办。本次论坛是2020年秋季系列讲座暨庆祝人大法学院建院70周年第四讲。

本次论坛邀请到牛津大学法学院教授Jeremias Adams-Prassl做主题报告；中国人民大学法学院教授、劳动法和社会保障法研究所所长、社会法教研中心主任林嘉作为致辞嘉宾出席会议；中国人民大学法学院副教授郑爱青、中国人民大学法学院副教授张吉豫、中国人民大学法学院副教授陆海娜、中国人民大学法学院副教授郭锐、首都经济贸易大学劳动经济学院教授范围、上海财经大学法学院研究员吴文芳、同济大学法学院副教授王倩、中国社会科学院法学研究所副研究员王天玉、北京大学法学院助理教授阎天、中国政法大学民商经济法学院讲师丁雯雯、清华大学法学院博士后陈靖远、中国政法大学民商经济法学院讲师于汇、中国人民大学法学院博士后潘羿嘉、牛津大学法学院研究助理Aislinn Kelly-Lyth作为与谈嘉宾出席会议；中国人民大学法学院副教授丁晓东担任主持人。本次研讨会共吸引100余名全国各地高校师生、同仁参加。

欢迎致辞

讲座开始前，林嘉教授做欢迎致辞。林嘉教授首先对Jeremias教授接受研讨会的邀请表示由衷感谢与热情欢迎。然后，林嘉教授回顾了人大法学院与牛津法学院的悠长交流合作历史及深厚友谊，并谈到Jeremias教授在人大担任兼职教授的时光，表示希望疫情尽快结束，Jeremias教授可以亲自来到人大法学院开展教学。随后，林嘉教授向Jeremias教授及在场嘉宾介绍中国人民大学法学院社会法教研中心的成立历史、研究开展近况、教学团队和学生队伍。接着，林嘉教授提出，数据、算法及人工智能的发展对现有劳动法律体系带来巨大挑战。此类新就业形态的特点是什么？如何评估潜在风险？如何判断和规范相关的新型劳动争议？这是一个全球性议题，她呼吁中外学者共同努力，对相关问题开展深入讨论与持续研究。最后，林嘉教授表示，期待中国人民大学法学院与牛津大学法学院在未来有更多的合作与交流，并祝愿本次论坛圆满举行。

主题演讲环节

Jeremias教授对林嘉教授的欢迎表示真诚感谢，同时回忆起在人大教学的经历，感到十分怀念，希望能尽快来到中国，来到人大法学院，与老师同学们开展交流。

Jeremias教授向各位嘉宾及观众介绍自己的报告主题：算法在工作中的兴起。

首先，Jeremias教授从19世纪以来人工智能对就业影响的研究历史谈起。机器替代劳动理论最早可追溯到古典经济学家David Ricardo的论述，20世纪前期John Maynard Keynes也有过相关预测。但近来的研究发现，机器替代劳动并没有成为现实，尽管人工智能使得一些工作岗位逐渐消失，但有更多的新的工作岗位正在被创造。因此，他认为，人工智能与就业关系的研究中心不是替代性，而是互补性，即人类个体所做的某些工作任务会被算法取代，但这并不意味着人工智能会完全替代人类的工作。

尽管科技发展并不会带来毁灭性的失业，但是，人工智能等技术革新将会对就业与工作产生重大影响。人工智能改变的不仅是劳动力市场，更是对工作场景的改变。真正需要思考的是人工智能对工作的组织和性质的根本影响。

零工经济是算法管理兴起的领域。这些平台的工作人员真的享受灵活性吗？他们是真正的创业者吗？Jeremias教授认为，算法实际上成了他们的老板。Jeremias教授举出一些现实生活中的例子说明这个观点。以Uber为例，平台通过司机评级控制司机的工作。司机的工作表现将决定他们能否接到好的订单。如果司机表现不佳，可能会被停用软件并被切断服务。此外，Uber还利用越来越先进的技术监控司机的各项行为，如驾驶稳定性等。这些技术已经进入了各类工作场景——工厂、大学、专业服务公司、政府和公共部门等等。

从本质上说，我们看到的是对劳动者的全方位管理的自动化程度不断提高。从招聘到解雇，整个流程都开始实现自动化。有学者认为，这其实是Frederick Taylor科学管理的一种现象。但Jeremias教授认为，我们实际上面临着一系列全新的挑战。这一系列挑战可以分为信息（information）、处理（process）和控制（control）三条主线讲述。

首先，关于信息。从前，雇主通过纸质档案收集信息，现在，雇主可以通过数字监控收集关于员工方方面面的信息。如今的信息处理不再局限于人事档案上的可读数据，而是可以结合各种不同的潜在信息源进行分析。雇主可以通过数字技术收集到关于员工工作成果的信息，也可以越来越多地收集到员工的个人信息。甚至，雇主还可以收集员工的睡眠信息并基于此设置一定的奖励机制。这带来的挑战是，目前劳动关系中关于隐私的法律规定，大部分是为工作场景本身设计的，但由于各种技术发展，工作与生活的界限在被不断打破。

其次，运用人工智能处理信息。人力资源职能的自动化是一个新现象。基于算法的人工智能的变革在于，其并非因果驱动而是专门发现数据间的相关性。这种相关性识别模式会导致算法歧视现象。举个例子，当涉及到在工程领域给女性分配工作时，算法很快会学会的模式是，目前大多数工程师都是男性。算法在没有真正理解歧视的情况下就带有歧视地开始运作。

最后，通过助推实施的控制。传统上，雇主可能会通过中层管理人员给员工下达指令。我们现在看到的是，许多这些命令正在被更微妙的指示方式所取代。例如，与其给员工一个具体的指令去做什么，人工智能可以尝试创造一个选择集或者一个选择环境来影响你去做什么。这正是机器学习的特点。

基于上述论述，Jeremias教授提出控制责任悖论（control accountability paradox）。正如我们所见，算法管理可以让雇主发挥不可想象程度的控制。一般情况下，法律责任紧随这种控制。你控制得越多，就越有可能对就业法的各个方面负责。但通过机器学习，这类控制往往发生在云端。当算法决策出现问题时，责任主体并不清晰。

最后，Jeremias教授谈到，人们总是谈论工作的未来，好像只有一个预先确定的未来。他倡导我们走出这种技术决定论，真正思考在应对挑战及塑造劳动关系方面法律如何发挥关键作用，并实际上确保我们在不同的未来工作（different futures of work）中获得最好的可能。也就是说，从法律规范角度，技术本身不一定是唯一的挑战。我们的挑战是去寻找新的方法，为技术的积极应用创造法律保障，以避免陷入上文指出的一些危险。

点评与问答环节

中国人民大学法学院副教授郑爱青认为，未来劳动仍应以人为中心而非以科技为中心。她首先谈到，国际劳工组织百年前成立时提出的“劳动不是商品”的理念，以及去年国际劳工组织成立百年之际，“未来的劳动世界委员会”报告中强调的数字化时代下以人为本的观点。她认为，算法管理和传统的泰勒制，在工作任务的完成与人力资源管理上就有相当多的共同点，二者区别限于程度的不同，而本质一致。其次，她介绍自90年代以来，尤其是近十年，为应对新技术革命，欧盟颁布了相当多的法律法规，包括个人数据保护、劳动者保护的指令等，而目前应将注意力集中于现行规范所无法解决的问题上。中国正处于遭受新技术革命冲击的初始阶段，目前国内仍然缺乏一系列针对性的法律法规，《民法典》保护人格权和基于数据的权利等等，算是提供了一个基础。值得思考的是，在数字化时代，要检视现有法律的缺失，针对新型雇员新型权利也应该在法律上进一步考虑。比如，法国颁布了关于雇员离线权的规范，离线权即是数字化时代的一种新型雇员权利。此外，郑爱青老师还谈及技术革命给雇员结社与联合带来的影响。新技术革命使得劳动者变得更为孤立，使劳动者结社面临一定的困难。面对企业，劳动者个体的力量非常薄弱，必须结成工会以捍卫自身权利。她认为，在该领域，政府应该出台更多的规定保障工会稳定，维护雇员结社的权利，发挥行业工会作用，促进行业集体对话。

中国人民大学法学院副教授张吉豫首先谈及信息技术拥有巨大的潜力来改变著作权人、平台和用户之间的关系。她强调了信息时代算法对于平台的重要性。她讲到，未来算法可能使得著作权人可以识别潜在用户，要求用户支付少量的许可费，还可实现著作权人与用户进行交流。但现如今，平台上的侵犯版权行为非常普遍，许多侵权作品反复出现在平台上，因此平台有义务识别并防止侵权行为。其次，平台上某些内容会被算法过滤，这可能会侵害用户的言论自由和其他权利。因此，我们应该探讨平台在过滤内容之前是否应该进行风险评估。张吉豫老师也提出在当前的技术背景下，平台是否应该给予用户一定的权利使其更好地理解技术，是否应该提供专家组或公共陪审员来检查用户是否存在侵权行为。此外，她谈到面临算法技术的监控，大多数工人将会不满雇主的追踪和控制。对此，市场自身能否进行调整以应对这些问题？当市场在监管算法方面发挥重要作用时，我们则应适时审查市场失灵的原因，在合理使用技术的同时制定恰当的法律法规，使算法与工作更加完善。

中国人民大学法学院副教授陆海娜谈到关于零工经济的法律应对，中国已有许多讨论，而在劳动法领域，需要调整现有的劳动法框架以实现对平台从业者的保护。陆海娜副教授从人权法视角出发，聚焦工作权，致力于研究人工智能对工作权施加的影响，探讨是否需要更新工作权的概念、审查工作的价值、调整工作权的规范性内容和相应的国家义务。

她认为在人工智能、算法与零工经济对性别的影响方面，需要解决四个问题：首先是雇佣歧视或基于算法的歧视管理决策。其次是职场性骚扰的雇主的责任面临谁来担责的问题。再次，我们需要思考算法、人工智能与零工经济是否造成了职业上的性别隔离。有研究认为，平台因其中性化可以减少性别隔离，然而在一些行业，如Uber、快递等，男性的主导地位很明显，而有些行业，如护理工作，女性工人占绝对多数。陆海娜老师谈到虽然在中国可以观察到一些平台中越来越多的女性进入传统上由男性主导的行业，但平台中是否存在性别隔离仍需进一步研究。最后是关于工作与家庭相平衡的问题。陆海娜老师提到一些研究表明平台提供的工作机会因其时间上的灵活性使女性受益更多，因为女性可以照顾家庭，但她认为这至少是一把双刃剑，因为平台经济吸引了更多的女性退出传统的或固定的工作，而在传统工作中女性可以获得更多的利益和更好的保护。

最后，陆海娜老师提出几点疑问：传统的工作场所因人工智能的发展逐步消亡会给我们的社会带来什么？人们彼此见面的机会减少进而导致相互之间的依赖减少，在这种社会联系逐渐薄弱的情况下，我们的社会行为将发生何种变化? 在算法管理的工作场所和与对工人的极端控制下，劳动力比以往任何时候都更像一种商品，这是一个比泰勒主义更可怕的噩梦。在这种情况下，工作的价值在哪里?

中国人民大学法学院副教授郭锐评论，这本书可以和哈佛大学商学院教授肖沙娜·朱伯夫的著作《监视资本主义》对照阅读。《监视资本主义》描述了一种新型的生产模式，Jeremias教授从政治经济学角度分析算法、人工智能等新技术对劳动世界的影响，同样让人耳目一新。

首都经济贸易大学劳动经济学院教授范围谈到，第一，算法在工作领域特别是在各大平台被广泛运用，平台运用算法为不同种类的雇员设置不同的要求，使得同一平台的雇员以不公平的方式完成工作，造成了劳动力市场的分割。第二，如何看待平台与AI系统、平台与劳动者的关系。这取决于我们如何看待AI系统，我们将其认定为一个独立的生产要素、雇主使用的工具或者是其他。在未来，或许我们必须回到起点，从雇主和雇员双方的关系来分析各类工作。

上海财经大学法学院研究员吴文芳认为，第一，我们对人工智能在工作领域的广泛运用应该持有积极态度。进入AI时代后就连个人在生活中的决策都有很大部分依赖算法，更何况为了不断提高劳动生产率的雇主。虽然算法在工作的很多方面成为了重要的“决策者”，但雇主才是最后的决断者，雇主应当为其行为承担法律责任。目前在中国面临的大难题是，互联网平台利用算法决策，但是雇主身份被虚化了，从而找不到承担法律责任的主体。第二，法律应当考虑如何运用人工智能的优势，减少其劣势。人工智能可以降低监控和转化成本，例如雇主可以通过一系列信息调节雇员的工作量以适应其能力，通过这种模式，雇员可以获得成就感，雇主又可以提高生产力。但是，运用人工智能又会产生一些问题，这些问题很难在立法或司法实践中得以解决。例如歧视问题，一位应聘者十分喜欢甜食，算法系统就以可能存在健康问题为由建议雇主不招聘该员工，这算不算歧视呢？这是对立法的一大挑战。同时，因为一些歧视性的规则是隐蔽的，在司法实践中需要新技术来检测和认定。第三，只有学习算法的基础知识，才能更懂得以法律规制技术；需要加强对个人信息的保护，防止数据滥用。加强不同学科之间的交叉研究，以更好地应对人工智能给就业带来的新挑战。

同济大学法学院副教授王倩提出，第一，雇主运用大数据和人工智能系统，设置一个筛选简历的模型。雇主将他认为重要的标准编入模型，例如是否有抱负或者是否有幸福的婚姻。这种做法是好的选择还是违法的呢？第二，GDPR对数据保护提出了较高要求，这可能会阻碍劳动市场中新兴产业的发展，应该如何看待这一立法呢？

中国社会科学院法学研究所副研究员王天玉提到，平台的发展对创造就业具有积极影响。例如，每年都有数百万农村务工人员进入城市寻找工作，由于平台进入门槛低，大多数进城务工人员都可以进入平台工作。通常，他们会在两三月后寻找到待遇更优的工作。因此，平台这一就业途径成为他们进入城市的基石。另外，马克思《资本论》第一卷第13章谈到工业革命对劳动者的影响。其中，专题提到工人和机器之间的斗争。我们不妨从历史的角度切入，观察每一次劳动技术进步对劳动者产生的影响。算法当然存在其新的特性，但是，是不是全部是新的呢？或许可以从历史中寻找到一些答案，比如工作强度、工作状态等变化不见得都是新的或者颠覆性的。

北京大学法学院助理教授阎天指出，当下，雇员通常会忠于不止一个雇主，有时许多雇主会试图同时管理一名雇员，已经很难找到一对一的雇佣关系。今天我们讨论确定雇主的另一个挑战, 就是我们所说的隐蔽雇主（black box employer）。如今，雇主将他们的人力资源决策过程隐藏在一个黑匣子中。今天，算法对劳动关系和劳动法构成了挑战，这开启了自由派和雇主之间漫长斗争的新篇章。阎天老师认为雇佣法的发展展示出，我们希望雇主只考虑好的事情，他们不应该考虑任何歧视的举动或任何可能对员工有害的事情。

      当雇主和雇员发生争议的时候，雇员需要打开黑箱来确定可归因于雇主的责任，但雇员很难做到。因为雇主有时会隐藏自己的意图，或者根本是无意识下就进行了隐藏。为了应对这一问题，我们可能需要一个测试来发现反歧视法中无意识的偏见，或者说转换举证责任，让雇主来证明自己没有偏见。但是，雇主也可能抗辩称机器具有自主学习的功能。我们很难了解算法，也不是数学家，我们面临这一个巨大的挑战。

中国政法大学民商经济法学院讲师丁雯雯认为，我们不需要太担心自动化会造成大规模失业，因为它还将创造许多就业机会。而且，现代劳动力市场的许多方面实际上可能无法自动化。举个简单的例子，在中国，当富士康公司用机器取代6万名工人时，许多农民工可能会失去工作，但这些工人可以轻松地从零工经济中找到工作。历史也证明，技术创新不一定会导致就业岗位的消失。目前，绝大多数的文献关注的是自动化和失业以及如何减轻自动化对失业的影响，所以今天这个主题——探索算法管理对雇佣法和劳动力市场监管带来的挑战，非常有趣和重要。

      丁雯雯老师对创造一个新的规范系统解决算法带来的问题持保留意见。她认为对现行的制度进行修改和完善也许是更好的路径。另外，算法管理能否在不久的将来在中国这样的发展中国家得到大规模推广，仍然存疑。如果新的规制体系只能调整很小一部分劳动力市场，是否有建立的必要？

清华大学法学院博士后陈靖远谈到，科技本身是中立的。面对算法管理的兴起，我们不能简单地断言技术是好是坏，真正的挑战在于，如何利用这种技术塑造未来工作的同时，确保劳动者依然享有体面工作和可持续工作条件。在当前疫情防控常态化的背景下，这就更加重要了。基于平台的就业方式就业容量大、准入门槛低、灵活性强，然而，必须承认的是，此类灵活性从业者受到的法律保护和政策支持不如标准员工。此次疫情可能成为进一步完善平台从业者法律保护的催化剂。此外，对于确认雇主责任主体的问题，我认为有两个因素可供参考，一是控制算法的可能性，具体来说是谁有机会决定改变算法的参数。二是谁能直接从算法管理中获益。近日，在中国，一篇热门文章揭露了平台通过算法剥削工人，将他们的生命和健康置于高风险状态下。一家最大的在线送餐服务提供商随即发表声明，承认算法的背后是控制算法的人，并承诺通过改进算法保证外卖骑手的安全。为什么这一外卖平台如此积极地打开黑箱？平台的内部改进会影响未来的工作世界吗？我认为这些问题是值得观察和研究的。

中国政法大学民商经济法学院讲师于汇首先以外卖平台为例，介绍其基本运行模式是：平台将顾客的订单分配给外卖骑手，骑手接到任务后，根据平台规划的路线取餐和送餐。从表面上看，该模式似乎非常中立，骑手们也在一定程度上拥有选择订单的自由。但在送餐高峰时段，平台会向骑手发出配送指令，骑手们无权拒绝。因此，骑手接收的订单量常常远超其承受能力。平台能够决定骑手的订单数量，完全控制骑手的账户，还可以通过骑手获得的评分影响其订单分配。最重要的是，平台有权在某些情况下惩罚骑手。若骑手未在预期时间内送达订单，可能面临高额罚金。而这些都是通过算法和其他技术实现的。

这些平台与传统雇主之间的界限究竟在哪里，是需要思考的问题。更值得关注的是算法所施加的隐蔽的控制。平台通过算法监控每位骑手的工作过程，计算出每笔订单所花费的平均时间，并据此秘密地缩减骑手的配送时间。类似的事情也发生在网约车司机身上。比如，倘若司机拒绝平台分配的订单，他们就没有机会收到大订单。因此，在算法的控制下，司机实际上不能自由选择订单。令人疑惑的是，这些平台都在声称自己只是促进交易的中介，并不是雇主。但事实上，算法的控制使得平台越来越趋向于传统雇主。

中国人民大学法学院博士后潘羿嘉提出了严格责任原则适用的可能性问题。现行的法律体系针对各种歧视问题所采取的保护手段是不充分的。而大约在一个世纪以前，为了保护公众免受发展中的技术所带来的伤害，严格责任制度应运而生。进而，我们能否采用类似于严格责任的方式来解决因人工智能而产生的各种歧视问题。

研讨会最后，Jeremias从劳动力市场规范的新旧之争、严格责任的适用及算法技术的利弊等方面对与谈嘉宾的评论与疑问进行了回应。

中国人民大学法学院副教授丁晓东再次感谢Jeremias教授带来的精彩讲座。他谈到，本次讲座的主题结合了数据保护与劳动法律法规，目前还有部分学者将就业法作为信托法来探讨，这些领域乃至反歧视等其他领域的结合将会是十分有趣的。关于这些问题，都还有非常广阔的探讨空间。

丁晓东老师感谢Jeremias教授、林嘉教授的出席及与谈嘉宾、各位听众的参与。本期讲座在参会嘉宾与听众的道谢与掌声中圆满结束。