衣俊霖

衣俊霖，上海交通大学凯原法学院博士研究生，人工智能治理与法律研究中心主任助理，上海交通大学中国法与社会研究院研究助理。上海交通大学信息工程学士，德克萨斯大学奥斯汀分校计算机工程硕士，华盛顿大学法律硕士。曾供职于亚马逊科技公司西雅图总部，担任大数据、云计算基础设施部门高级研发工程师。曾获云计算及法律科技相关专利、软件著作权数项；通过中国法律职业资格考试。作为团队成员参与国家社科基金项目、科技部及上海市大数据中心委托课题数项，并于中英文刊物发表多篇有关智慧法院和法律人工智能的学术文章。主要研究兴趣为法理学、法律大数据、人工智能治理以及法律与科技的交叉学科研究。

数字孪生视野下的法律与问责

“

数字孪生的设想大约二十年前被提出，伴随着物联网、人工智能、大数据这些底层支撑性技术的不断成熟，近来成为最引人关注的技术理念之一。可以说，我国目前的数字化转型正进入“数字孪生时代”——数字空间实现着对现实空间的复制和超越。另外，数字孪生提供了一个模型和框架，各类技术可以被纳入这一框架里，因此研究数字孪生中的法律问题对普遍意义上的技术规制亦有所裨益。

”

一、数字孪生的概念、架构和挑战

到底什么是数字孪生？可以把它概括为：两个空间、三个层次、一个挑战。

两个空间是指“现实的物理空间”和“虚拟的数字空间”。现实空间中的人、事、物在数字空间中的对应物被称之为“数字孪生体”。现实空间和数字空间的关系具有“虚实相生”和“以虚运实”的特征。例如，防疫健康码便是数字孪生的一个典型应用。行动轨迹和健康状况在数字世界被重建并实时更新，形成1:1的映射；另外，人们的行动受到在数字空间的健康评估的影响。

三个层次是指数字孪生的层次性架构。数字孪生并非特指某一具体技术，而是一个技术框架，由界面层、数据层、模型层构成。第一，界面层实现数据收集、信息展示、指令控制的功能。第二，数据层实现了意义建构的功能，数据分析、清洗、处理、存储等操作大多发生在这里。第三，模型层借助专家系统、人工智能等技术，发挥着统筹决策的功能。三阶层的系统结构，让我们对各类技术能有一个体系性的分析框架。

最后，数字孪生的核心挑战是算法的黑箱化。提到算法黑箱，人们经常联想到暗箱操作、算法独裁这些负面评价。但从工程实践的角度来说，算法黑箱的另一个名字是“代码封装”，算法的黑箱化既不可避免，同时也具有一定的合理性。以界面层为边界，数字孪生体系中的数据、模型层通常被封装起来，使我们和数字空间形成了一个稳定的界面，减少了人们所要关注的技术复杂度。当然，算法黑箱可能造成规则黑箱，即行为规则对外可见，但决策规则被隐藏起来，这时候就可能转嫁决策责任，使得法律问责变得非常困难。

二、对传统算法规制进路的简要评述

传统的算法规制最重要的两种策略是结果问责和算法透明，前者试图“避开”算法黑箱，后者试图“打开”算法黑箱。

结果问责的逻辑是，无需关注算法黑箱内部在发生什么，当损害发生之后进行问责即可。例如，前段时间引起热议的外卖小哥被算法“剥削”的新闻，算法的内部逻辑其实无关紧要，法律关系并不复杂。但是，结果问责的策略低估了算法黑箱的法律复杂性，如果从侵害结果、责任主体两个维度来划分，我们可以得到四类算法黑箱。只有处理损害结果和责任主体都非常明显的第一类算法黑箱时，结果问责比较得心应手。对于剩下的三类算法黑箱，如果损害结果或责任主体中有一项不确定，结果问责便难以奏效。

再来看算法透明进路。算法透明的具体内容越来越宽泛，披露的对象既有代码、公式、权重参数这些内部信息，又包括理由解释、结果告知这类外部信息。最激进、彻底的主张是披露源代码。然而，这种做法可能与商业秘密、国家机密等法益相冲突，很少被付诸实践。退而求其次，还有披露公式以及参数权重的主张。这比披露成千上万行代码更精简，对于非专业人士也更具吸引力。然而，复杂算法往往无法简化为公式或权重，并且公式和参数可能会遗漏底层代码的错误，因此也不令人满意。形式上最弱的算法透明要求就是外部信息的披露，比如只是对处理结果和理由进行告知。如此一来，确实绕开了商业秘密的保护区，但穿透性太弱。在需要检查算法逻辑并对决策合理性、公平性进行检视时，有隔靴搔痒之嫌。

三、基于算法标准的法律规制

（一）

跨系统沟通

从社会系统论的角度来说，功能系统无法直接相互影响。对于一个特定的系统而言，它无法对外部扰动作出反应，除非该扰动被转译为系统所能理解的内部信息。这便是系统运作“封闭性”与认知“开放性”的统一。规制算法黑箱的关键就在于保持算法运作封闭性同时建立法律与算法的沟通机制。此前提到的结果问责和算法透明的局限性就在于缺乏一种沟通机制作为支撑。

系统间的沟通具有一定偶然性，因此需要建立信息交换的元规则来去随机化从而形成秩序；如同人与人交流要有固定语法一样。观察公司信息披露可以发现，由于公司的组织架构相对标准化，因而成为信息披露的天然规则。算法没有这种内在的固定结构，但技术标准可以用来生成法律与算法信息交换的元规则，推动跨系统的协作沟通。例如，技术标准把法律与算法系统的沟通化简为两个子问题：第一，算法标准是否合理合法；第二，算法运作是否符合标准。如同现实生活中，食品、药品的生产，其流程和工艺都因涉及商业机密而无法公开，但人们依可以放心使用，一个重要原因就是食品药品标准的存在。类似地，技术标准提供了与算法系统沟通的基础规范。

（二）

实践建议

技术标准具有灵活性、场景性的优势，是建立与算法黑箱的沟通机制的关键。但标准一般被视为自愿执行的软法，似乎看起来很好，但却难以在实施中发挥效力。

以下对技术标准如何从书本上走向行动中提出建议。第一，建立算法标准的声明机制。基于标准化法的规定，企业所执行的产品或服务标准一经声明公开，便具有法律约束力，生产经营应符合标准。算法作为一种无形的产品，其标准声明公开机制处于盲区，大部分科技企业对其算法没有进行声明。应当将算法标准逐步纳入声明公开机制中，形成对企业的拘束力。第二，算法的标签化。应当借鉴食品、药品的相关规定，为算法“贴标”，标示的内容应当在软件说明或介绍界面中明确展示，具体事项包括：版本控制信息、算法执行标准号、算法生产方、算法控制方、数据安全分级等。第三，加强对技术标准的上位法支撑。由于缺乏上位法的支撑和gdpr式的巨额罚款的威慑，企业对算法标准的重视程度仍显不足。通过完善个人信息保护、数据安全以及平台反垄断等领域的立法，技术标准在有了上位法的加持后定能发挥更强的现实效力。

四、未来的研究工作

在未来的研究上，目前主要有以下三方面的设想。

首先，是监管科技的问题。正如莱辛格的那句“代码即法律”的论断所提示的，代码在数字空间里起到至关重要的作用，将法律落实到代码层面是数字孪生时代法律的一个趋势。如何将技术标准把法律“转译”为代码是一个很有意思的问题。其次，有关技术标准的法理问题。技术标准是不是法？在数字空间，我们对于法的理解是不是应当发生变化？如何避免技术标准架空法律？如何应对企业对技术标准制定过程的渗透以及监管捕获问题？最后，是算法规制的理论框架研究。目前的研究主要还是从经验常识、比较法研究出发，对于算法规制问题缺乏一个整合性的理论框架。

上海市法学会欢迎您的投稿

fxhgzh@vip.163.com

2021世界人工智能大会法治论坛成功举办

智慧法治学术影响力top100｜作品•作者•期刊

2021世界人工智能大会法治青年论坛成功举办

崔亚东：数字时代  智能社会治理

刘艳红：人工智能法学的时代三问

乔凡尼•科曼德：人工智能/数据科学在法律中的应用——关注合法性的方法

邰江丽：人工智能的法律挑战与创新应用

安托万•加拉邦：人工智能与法治的困境

菲利波·法罗西尼：向可信赖人工智能迈进

迪诺·希莫纳斯：数字时代的法治问题——沙箱监管

薛澜：人工智能国际治理秩序的框架与路径

凯文·沃巴赫：人工智能、信任与法治

康允德｜计算法学：希望与忧患

张凌寒：平台治理与算法问责

劳伦特·克内普：动态视觉传感器的移动感知

袁康：可信算法的法律规制

苏宇：如何监管数字代币

胡凌｜理解技术规制的一般模式：以脑机接口为例（演讲直击）

王禄生：情感计算的应用困境及其法律规制（演讲直击）

翟志勇｜数据信托：人工智能时代的数据治理（演讲直击）

责任编辑：王   健    金惠珠

上观号作者：上海市法学会