寿晓明｜算法信任的流程治理体系重塑——以数据交易场景为例
文章正文
发布时间：2024-08-21 10:12
技术+法律的数字法治模式正逐渐成为共识，数据交易市场化还是法治化都离不开技术应用的支持。反之，技术价值得不到规则层面的确认，技术开发也会因缺乏合法性而失去发展动力。算法信任的基石应当是数据算法公信力，依靠国家政府对算法的监管构造公信力，以国家数据局作为监管算法的核心机构，国家数据局应当根据数据交易的特定场景制定相应的算法监管内容和标准，对算法进行全流程监管。在算法公信力的基础之上，数据交易各方应当建构算法合约自治性，从数据交易的全流程出发，以数据源、数据交易平台、数据交易中建构合约自治性，实现数据交易的契约精神。最后，则是回归数据交易的算法技术本质，从算法全流程中建构机器算法技术性，从算法流程的获取、分析和应用阶段进行算法的技术剖析，从而从底层逻辑建构对算法的技术信任。
在数字交易市场中企业的重要策略性行为往往由数据和算法所驱动，这是数字市场与传统市场中策略性行为的重大差异。随着数据采集和处理技术的不断突破，数据体量无穷膨胀，数据交易场景呈现越来越强的多样性和复杂性，数据权属及利益分配很难由几部法律和文件来清晰规定。同时，基于权力属性，算法权力借助深度学习技术，肆意扩张，这种内生性的风险与外部的不可控引发了算法极权、打破权力——权利格局平衡、引发主体危机等诸多异化风险。因此，迫切需要对数据交易和算法引入科学合理的规制。算法具有自动性、隐秘性等特点，既要考虑这些特点对规制带来的挑战，又要避免规制对创新造成不必要的伤害。从更宽广的视野来看，需要建立一个基于场景并嵌入未来的数据交易体系以及相应的算法问责体系，这与工业经济时代所建立的产权体系具有同样的基础性意义。在算法决策应用中有必要区分人工决策和算法决策的合理场域，构建二者区分标准并协调和优化决策机制。因此，对数据和算法进行规制，应该成为数字经济、数字社会中的关键性规制议题。对数据和算法的规制不应该扼杀创新的推进和社会福利的提高。而技术的革命性与颠覆性，场景的丰富性和复杂性，使得规制在兴利与除弊之间的平衡变得非常困难。一、逻辑基础：数据交易场景中算法信任的算法公信力算法监管涉及政治、经济和法律三个社会子系统，应当通过数据活动顾问这一“接口岗位”实现系统间的结构耦合，从而借助系统间的协力有效监管算法活动。当前数据交易则分为场内交易和场外交易，但无论哪种交易方式由于数据牵涉到个体、社会、国家等各个层面的利益，数据交易必定需要依靠国家进行监管。当算法嵌入到数据交易这个特定场景中时，由于算法权力自身的特性足以异化数据交易这个领域，其产生的风险足以使得整个数字社会的信任机制完全崩坏。对于算法不进行相应的监管，不把算法权力装进法律的笼子中则难以建构信任基石，算法通过国家层面对其加以监管，使得社会对于算法凭借国家公信力得以建立长久信任，国家对于算法的监管使得算法权力被约束在合理限度之内。使得算法可以秉持技术中立性发挥其数字技术独有的工具作用，算法公信力作为数据交易中算法信任的底层基础，是整个算法信任的前提要件，以国家政府作为算法技术中立性的保障，从而使数据交易各方从主观上建构起对算法的信任，从而维护数据交易的安全和公平，发挥数据在数字经济中的生产要素作用。（一）数据交易场景中算法公信力的法理逻辑
政府公信力的建立来源于民众对于政府的信任，公信力则是指在社会公共生活中，公权力面对时间差序、公众交往和利益交换所表现出的一种公平、正义、效率、人道、民主、责任的信任力。数字社会中，国家政府的重要任务便是保障算法自动化决策秉持其技术中立性，维护这种自动化决策的公平性作为核心要点，使得算法做出影响个体具体权利义务的行为时可以不违背基本的公平原则。伴随着人工智能的快速发展以及算法权力的崛起，个体难以抗衡算法权力带来的风险，个体在算法面前则处于弱势地位，甚至在一定程度上算法权力已经开始异化个体在法律上的主体地位。由于个体的弱势地位，政府成为抵挡算法权力和承担算法风险损害结果的最后屏障。政府作为个体基于社会契约建立起的公众信任体，作为广大民众共同推选的产物，满足公共利益的需求是政府公共行政在理论上唯一的目标。根据行政法基本原则中的高效便民、权责统一等内容，政府在数据交易中应当充当对算法权力的规制角色，从而保证数据交易的公平和安全以维护公共利益。数据交易是算法商业自动化决策重要领域之一。算法自动化决策和大数据交易的双重融合，使其对于整个交易市场的公平性带来了极大的挑战。算法和数据的融合，使得商业平台具有了上帝视角。执法者需要对数据交易的全过程进行流程化监管，对于算法在数据交易中的运用采取流程化监管。在政府的全流程监管之下，算法发挥其技术中立性的工具作用，平衡交易各方的权利义务，从而实现数据的流通利用。由于算法和数据互相的深度融合，在数据交易这个数据资源整合共享和开发利用的重要环节，国家数据局应当作为政府对数据交易的算法进行监管，从而建构数据算法公信力。（二）数据交易场景中算法公信力的监管内容
在数据交易这个特定场景中，国家数据局作为国家对算法的监管部门，可对数据和算法进行双重监管。“法律的监管功能要求它具有广泛的可预测性。”对算法自动化决策进行监管的功能作用便是打开黑箱，而在算法黑箱中的哪些元素需要接受算法监管，则是国家数据局的重要职能之一。毕竟，无论法律赋予监管第三方或者数据交易平台对算法进行监管，由于监管第三方并没有法律赋予的惩戒职能，而数据交易平台的自我监管则由于利益牵涉可能只是形式审查，都难以对算法做到真正有效的监管。而国家数据局则可以作为监管第三方和数据交易平台的后援力量，从而形成相应的算法监管体系。国家数据局对于算法监管的对象并非算法的设计信息，而是具有法律意义的信息。一个完整的算法自动化决策监管应当按照相应步骤对算法内容进行相应的监管，并随着数据交易流程和内容的不同做出相应调整。首先，作为监管部门的国家数据局，需要知晓数据交易流程和内容中哪些做法是由算法的自动化决策做出的。算法自动化决策的可见性已经逐步成为算法规制的必要前提。知晓算法自动化决策的存在，是算法监管部门启动算法监管的前提和基础；其次，需要对算法自动化决策的人为因素进行监管。算法的设计者和使用者在被进行算法监管时，应当向国家数据局披露算法中的人为因素。具体内容则包括算法设计者、使用者和算法运行的监督第三方和责任方。“在设计和编码中，程序员或设计者可能会试图以公开或隐蔽的方式嵌入一种逻辑，以使算法偏向期望的目标”。算法的设计者名单应当向国家数据局进行披露，算法设计者名单的披露使得设计者对于算法的设计必然会考虑到法律责任的承担，从而在设计和使用中恪守职业伦理和道德，避免设计者和使用者躲在实验主义的盾牌之后规避法律的监管。同时，对于事后追责可以作为设计是否承担过错的证据予以佐证，从而分配事后侵权责任的承担；再次，则是对算法的数据进行监管。对于算法的训练数据进行审查从而检测算法歧视的产生是否是数据偏差导致，从而决定是否能继续进行监管。面对不同类型算法歧视存在的技术难题与法理障碍，进一步细化具体类型中的特殊情形，提炼规制重点，将深化对算法歧视的认知，实现以制衡算法权力为核心的规制范式重构。而后则是对算法系统功能的监管，算法系统功能的监管着重对整体设计和一般因素权重的问题予以化解，对于算法系统中的意义、逻辑，其范围涵盖了系统的决策树、预定义模型、分类标准和需求规范等内容。系统监管并非要公开算法的源代码，而是作为事后算法解释的必要内容。在前三项监管失效后，则通过对算法系统监管查找问题所在。最后，以算法决策的具体理由说明为兜底监管，具体理由包括算法的理由、原因，需要解释使得相对人可以知晓算法决策的运行逻辑，也应当为相对人提供修正算法的具体方法。在算法对相对人的实体权利、程序权利及救济权利产生直接具体的影响时，应当对算法系统的运营流程、运营结果和决策行为做出合理的理由和说明。通过上述的具体监管内容，从而为国家监管局提供算法监管的具体举措，同时为数据交易各方在遭受算法侵权后获取事后分类救济提供具体途径和步骤。监管制度构建应以事先预防为基点，以算法影响评估制度的完善与算法审计规则的落实为中心，强化技术监管的协同治理，最终构建起精细化、多层次的监管体系。（三）数据交易场景中算法公信力的监管标准
未来我国算法治理方案的完善应当秉持技术信任和治理信任同步推进，打造场景化和精细化的算法监管机制设计。国家数据局在对算法自动化决策的监管确立具体内容之后，则应当对监管的标准作出指引从而使得监管具有可操作性。算法自动化决策的监管标准并非技术上的概念，而是对具有法律意义上的信息的程序性要求和实质理性化的具体规范。因此，不能以国家数据局监管中技术的匮乏和数据交易各方对于算法专业知识的薄弱作为逃避算法监管的理由。与此相反的则是要求算法监管应当基于形式程序标准和实质实体标准作为基准，将法律责任和义务施加算法设计者和算法使用者来破解信息的不对等。从形式程序标准上，国家数据局应当向算法设计者和算法使用者提供格式文本，要求他们提供的算法客体是个完全体，否则应当视为提供无效。对于数据交易各方应当提供具体的理由说明算法的自动化决策，如果无法提供则视为无理由，从而直接导致算法的失效。提供书面形式的说明报告，应当保证说明报告可以让国家监管局和数据交易各方对说明进行理解知晓。提交的书面说明则作为事后追责的证据予以存档，便于日后分配侵权责任时作为证据予以证明。在算法自动化决策的实体实质标准中，对于内容应当符合算法数据输入到数据输出的基本设计，如若算法不具备数据输入到输出的基本原则，那很显然这样的算法是错误的。由于其具备法律意义则应当保证内容的清晰明了，提供说明时对各方权利义务会产生直接重大的影响，否则事后救济则形同虚设。同时提供的说明应当简洁明了，根据奥卡姆的剃刀原则，算法的复杂程度应当适宜，过于复杂的内容则由于基于知识鸿沟的存在变得难以理解。提供说明可以提供算法自动决策的具体数量，应当具有普遍性。出具详尽完整的说明，可解决各式各样的具体问题，从而减轻国家数据局和监管第三方的监管负担。提供的说明应当为数据交易各方提供有效干预算法的具体路径，可以具体指出算法中数据的偏差和提高算法自动化决策的具体规程。算法监管的最终目的是证明算法的可信任性，通过国家数据局等国家公信力重建社会对算法的公信力，并为数据交易各方提供事后救济的法律途径。二、流程内核：数据交易场景中算法信任的合约自治性在依靠国家政府对算法的监管，建构算法的公信力之后，则应当回归数据交易的整个流程中对数据交易进行规范。“通过制定行政规制、自主规制等，与算法交易处理相关的各种规则，可以确保市场的公正和公平”。数据交易的起点则是对元数据的收集，其中对于个人信息的收集显得尤为突出，个体的个人信息基于保护人格权的出发点，应当建构默示知情—明示同意的基本原则，在前台系中作出相应规范。而后台系统中由于算法的运用使得数据收集者应当对个体承担更多的责任和义务。在数据源收集之后的流程则是数据交易平台，要建构数据交易平台的合约自治则需要通过元规制—独立规制的双重规制实现，既需要数据交易平台自我的规制，也需要外部独立监管第三方对数据交易进行监管，数据交易平台则对算法通过双重规制从而保障交易的公平性。而数据交易的核心在于数据交易双方之间的买卖行为，应当建构数据交易相对方的合约自治。由于数据交易的特殊性，对于场外交易的双方则需要更为严格的限制，交易双方应当向国家数据局提供相应的交易内容以备监管备案，交易双方之间同样需要基于合同实现合约自治，建构数据交易的契约精神。（一）数据交易场景中数据源的合约自治
数据交易的起点是数据源的收集，对于算法的规制同样起源于此。收集的元数据是否侵权则对整个数据交易的合法性有着至关重要的作用。数据源中的一个重要组成部分是个体手中掌握的个人信息，个人信息基于默示知情—明示同意的二阶层构造，对个人信息进行分层授权从而进行收集个人数据。“为了防止伤害，保护信息不被未经授权披露的义务可以说是家长式的”。数据的生成机制则分为前台系统和后台系统，前提系统主要则是个体和数据收集者的场域，这个窗口空间包括了数据收集时的个人行为、时空和客观事物，数据收集者基于个人信息的收集原则收集个人信息，此时基于个体和数据收集者之间形成的合约自治达成合意，形成相应的合同赋予数据收集者收集个体手中的个人信息。后台系统则是数据收集者通过算法将个人信息进行处理、分析从而形成元数据，后台系统则由专业团队组成，此时则不像前提系统依赖时间和空间。专业的团队和算法的加持共同组成了后台系统。后台系统作为数据收集的核心部分，由于算法的自动化决策使得系统如黑箱一般处于不可知不可见的状态。但正是通过算法自动化的决策使得收集的个人信息最终转化成数据交易的元数据。前台系统，基于个体和数据收集者的合约自治建构二阶层收集原则，个体则可以要求数据收集者对于使用的算法进行解释说明，个体也可以要求数据收集者禁止使用自动化决策算法来处理自己的个人信息。数据收集者应当对算法的设计目标和原理作出系统和可理解的解释说明，以及对使用算法可能存在的风险和授权产生的后果作出明示的系统说明。个体也可以对数据收集者使用的算法提出建议和批评，对于算法存在的问题提出自己的改进意见，而对于算法存在的隐患则提出批评并要求改正和优化。应以沟通信任原则重构算法解释权，将算法解释权的性质视为一种程序性权利，而非实体性权利。对于后台系统则可以从功能主义的角度出发，功能主义从法的外部观察法，本着实用性的目标去分析法的目的性，使得法能够适应社会的快速发展，同时又不会失去法的安定性。“根据问责制原则，数据控制者必须能够证明其决定的合理性。”从功能主义角度出发保护个人数据的安全，其意图则是数据收集者在进行数据交易前，根据其目的和目的背后的保护的利益进行价值权衡，以便明确数据交易这个场景中应当着重保护何种权能，进而确定数据交易场景下的价值取向，并围绕该价值取向完善个人数据保护的相关举措，从而实现数据源的合约自治。（二）数据交易场景中交易平台的合约自治
法律是社会控制的工具，但社会控制实际效果则依赖于现实中人面对法律规制的行为。数据交易平台应当发挥对数据交易算法的全流程的监管和服务职责，实现合约自治。算法和数据在数据交易平台中深度嵌合，同时根据个人信息保护法对于平台企业的范围，平台监管范围则应当从数据保护到算法规制。数据交易平台进行自我规制，在不依赖外部监管第三方的帮助实施算法规制。基于数据交易平台的独特双重职能，除了对交易数据的合法性需要提供合理证明外，同时需要对数据交易各方的自动化决策算法作出限制，从而稳定数据交易的基本秩序和维护交易的公平和诚信。在数据交易平台的元规制基础之上，应当依靠独立的监管第三方进行独立规制，平台作为数据交易的利害相关方仅仅依靠自身能力难以完全实现合约自治，而且由于算法产生的知识鸿沟，数据交易平台如果没有专业团队进行算法监管则难以真正落实。数据交易平台应当构建元规制与独立规制的二元合约自治体系，从内外两个层面实现对算法的规制，实现数据交易平台的合约自治。数据交易平台的元规制存在两个关键要素即目的性和可归责性。元规制的目的性则由制定规制、反馈信息和纠正行为三个部分组成。制定规制则是要求数据交易平台根据算法和数据交易流程的不同特征制定特殊化规制，以此要求数据交易平台实现自我规制。其次，则是反馈信息，要求数据交易平台进行合约自治出具执行报告、管理报告和监管第三方报告，形成数据交易平台自治的过程。在最后的纠正行为阶段，数据交易平台和数据交易各方需要就算法监管情况进行协商，对算法监管中的问题和不足进行反馈，及时要求数据交易各方作出相应的整改和优化。元规制的可归责性，是指数据交易各方对算法决策的合理性作出说明和理由。可规则性的核心要义则是通过立法或其他方式向数据交易平台授权之后，还应对其实施足够的控制，从而保证数据交易平台以知识和能力实现其监管和服务的双重职能。应当注重设置程序来解决数据交易各方的可归责性争议，形成一种不同延伸的问责形式。（三）数据交易场景中交易方的合约自治
只有对数据进行挖掘和利用，数据才有价值，而算法等技术是挖掘和利用的集中体现。数据交易的本质在于数据分享，实质上是数据买方和数据卖方进行的数据买卖行为。数据交易平台则是作为中间人提供监管和服务职能。实践中的数据交易则更多的是数据买卖双方的直接买卖活动，基于数据交易平台的交易则并不占大多数。对于数据交易相对方的合约自治在当下则显得更为重要。即便在不久的未来建构大数据交易平台为核心的数据交易体系，由于数据交易的核心都是买卖双方之间的法律行为，大数据交易平台则是基于交易的特性为了监管算法和交易的而作为交易中间人，而且数据的权属并不属于大数据交易平台，根据买卖合同的本质则是买方物品权利转移到卖方手中的过程，那么数据交易的核心自然是数据交易相对方的数据买卖行为。由于数据交易的特殊性，应当作为国家监管的交易之一，数据交易相对方则需要获得相应的行政许可授权才可以进行交易。同时应当建立数据交易信誉名单，基于数据交易者的信誉来判断其是否可以进行交易，数据交易相对人应当将交易数据、运用算法等相关内容提交给国家数据局进行登记备案，国家数据局则对提交的内容进行审查，备案的内容则可以为数据交易双方日后的争议提供相应的证据。数据卖方则需要对交易数据的符合交易承担相应的义务，应当确保交易的数据在数据交易的许可范围之内。同时数据卖方也应当对交易数据的质量提供一定的义务，数据质量标准则属于复合型的内容，包括元数据、运用算法和数据内容。具体而言数据卖方应当确保交易数据的合法性、对分析数据的算法进行说明、明确数据的适用范围、期限和用途、确保交易数据的真实性以及对交易数据可能的风险进行明示。目前对于数据交易的合约自治并没有出台相应的数据交易法，而是分散在法律法规等对方，且对于数据交易的合法性、算法监管、数据交易的风险没有一个统一的规范。应当明确数据交易中各方的权利义务和数据交易的基本准则、算法的使用规范，并出台配套的法律法规，细化数据交易的目的、流程和算法使用细则、责任归属等具体内容，构建统一的数据交易的部门法。未来持续深化平台算法监管，需要构建“硬法”“软法”相结合的合意监管体系，建立技术监管技术的自动化监管模式，形成多主体共生演化的生态化监管网络，落实全流程覆盖的动态化监管机制。三、底层设计：数据交易场景中算法信任的技术中立性算法的程序正义理论在确立“以人为本”的智能伦理观的基础上，通过算法公开、算法影响评估和问责等新的制度性设计，化解传统程序所面临的正义风险，促进正义价值的实现。数据和算法的相互融合在数据交易这个特定场景中显得尤为突出，数据作为算法的质料，算法则挖掘数据的特有价值，在数据交易这个动态实时的场景中，对算法进行流程式的规制则符合交易的基本规则。数据交易从数据源出发作为交易的对象，交易数据则通过场外交易或者场内交易的特定场所进行交易，无论是否基于数据交易平台这个场所，数据交易基本则是数据买卖双方的买卖行为。算法则从数据交易的全流程中和数据进行深度嵌入，使得抛开数据交易这个特定场景去对算法进行规制显得荒谬可笑。数据交易的算法规制必然是在回归交易流程中进行流程规制。机器算法技术性并不是单纯意义上的技术规制，而是建构在算法技术的基础上形成法律上的具体内容，回归数据交易的本质即数据分享以及算法如何实现数据分享的流程，可以将算法流程分为三大阶段即获取阶段、分析阶段和应用阶段。首先是获取数据，再是通过算法分析数据，最后则是经过算法分析的数据的应用过程。这三个阶段通常是连续动态的流程，在这个流程中某些行为可以被单独区分开来，并且总结在三阶段模型之中。（一）数据交易场景中算法流程的获取阶段
应及时树立以风险防范为目的的监管思路，实行内容与算法并重的双轨审查机制，以及设立平台责任与技术责任双轨并行的责任体系，并对算法的生产性资源数据的收集和使用进行合理限制。获取阶段是算法流程中数据交易中各方为获取数据的阶段，算法流程的开始需要数据作为质料，但在整个进程中也会进行数据收集。而在实践中，获取阶段在整个流程中重复出现或者贯穿全程。算法流程通常具备一个响应新数据输入的自动化决策算法，数据可以从个体手中收集，根据对个人信息的分层形成的默示同意和明示知情二阶层，通过匿名化算法和技术去除个人信息的人格和身份属性，转化成为匿名化信息。自然数据收集可以通过传感器，传感器不仅收集关于个体的个人信息，还可以收集事物和过程的信息。另一种方式则是通过数据交易获取数据。新数据并不总是从个人、传感器或者数据交易这些方式获取，数据也可以通过数据爬虫进行抓取数据等方式的公共数据源中获取，或者是通过现有数据源的组合进行创建。此外，可以根据现有数据进行推断和预测，这种推断和预测则又会构成新的数据。除了个人数据的交易限制外，对于企业数据和公共数据的交易限制同样重要。企业数据可以分为企业自生数据和企业非自生数据。企业自生数据则是企业自身生产经营活动过程中生产与企业业务相关的数据，企业自身数据由于是企业这个独立法人产生的数据，类比自然人生产的个人信息，企业自身数据的权属属于企业自身，企业对于自身的数据具有占有、处分的权利，企业可以将自身企业进行数据交易。而企业非自生数据则是企业持有的其他数据主体的数据，包括个人、政府、法人等其他社会主体的数据。企业掌握的个人数据依旧基于个人数据交易的二阶层原理进行规制，而对于掌握的其他企业数据则由于企业数据的可交易性而可以进行交易。而企业掌握的公共数据则应当根据数据是否对外开放进行分类处理，对于涉及国家秘密、公共隐私等非对外开放数据则不能进行交易。公共自生数据则是指国家行政机关、公共事业单位以及履行公共管理职能的企事业单位在履行公共职能的过程中而产生的数据，公共自身数据虽然是公共组织产生的，但由于公共组织代表的是公共利益，基于社会契约论其权力是由个体赋予，其自生数据不应当进行交易，对于公共自生数据中公开的数据则应当基于共享的原则实现数据流通利用，可以根据申请公共组织依法公开公共数据。“具有公共产品属性的非个人数据原则上应视为人类社会的共有资源，由公众自由使用”。对于公共非自生数据则是指行政机关、企事业单位在履行公共职能的过程中基于社会治理和公共管理的需要，向个体、企业、社会组织收集的数据，由于这些数据属于公共组织收集的其他数据主体的数据，数据权属并不在公共组织手中，这些数据是为了便于社会治理和公共管理等公共利益的需要而收集，其具备的公共性使得公共非自生数据同样不能进行交易，且由于属于数据各方同样不能进行公开共享。（二）数据交易场景中算法流程的分析阶段
算法流程的第二个阶段则是对获取的数据进行算法分析，数据分析需要依赖数据库管理和数据处理软件进行，其中包括数据存储和处理，为数据分析的前提预处理技术，以及数据挖掘和支持技术。在数据挖掘中，使用并创建了机器学习和人工智能等领域的各类方法，其目的则是在大型数据集中发现有用的模型。当下最为广泛使用对数据进行分组发现模型的技术包括集群、分类和模式挖掘。而在这些技术之中，数据则被用来进行创建逻辑中的假设部分，这和传统统计方法背道而驰。在社会科学中，假设作为数据收集或者分析的起源。这使得它看起来相对而言的中立、客观和真实，但算法流程的分析并不局限于此。假阳性和假阴性的存在风险其实和传统统计数据类似，高度拟合（误将巧合的模式错认为是实际上具有普遍价值）的风险同样较为突出。无论数据集的大小，用于分析的数据必然得出一个定律：数据永远不可能完全决定性的重现真实世界。“一个或多个人类决策或评估被记录为结构化数据，并且该数据被自动汇总或合并以生成用于做出决策的总体评分或评估”。此外，数据的选择取决于其对数据组织的时效性和目的性，其效果和代表性并不能完全预测或者进行事后评价。算法流程的分析阶段中对于数据分析所形成的则是相关关系，而并非因果关系的信息，两个变量或者事件之间的联系可能纯粹出于巧合而并不具有必然性，事实上的相关关系并非等于法律上的因果关系，“依据特征组合作出的预测在某种程度上与目标信号存在因果关系”，将算法流程分析阶段的相关关系转化成法律上的因果关系为算法规制打开了大门。根据算法的作为和不作为进行划分，判读算法的因果关系标准则是行为风险的关联性，从作为层面看，对于人为操控算法产生的作为行为，应当认定为因果关系。算法和行为人可以看作是工具和灵魂的关系，基于行为人积极地作为行为操控算法损害数据交易各方的合法权益，所实施的侵权行为危害到了不仅仅是个体甚至是群体和社会的利益。而对于算法的不作为行为则可以分为积极的不作为和消极的不作为。积极的不作为是指出于故意的意思表示，对于不作为引发的风险存在预见可能性，应当对算法的因果关系进行认定。消极的不作为，是指由于主观上出于过失的意思表示，不作为的义务来源则是要求行为人对风险具备注意义务和作为义务，且产生的风险具有可避免性。此时的风险应当局限在可认知的范围之内，对于超出认知范围的风险不应当认定为法律上的因果关系。（三）数据交易场景中算法流程的应用阶段
在算法流程的应用阶段，应用则是从数据分析中获得信息，获得的信息可能是知识、模型或者预测，通过分析得出的信息可能会形成通用的决定或者针对个人的决定。使用数据做出针对个人的决策可能是通过自动化方法得以实现的，或者由个人或机构通过基于分析产生的知识做出决策。这些决策可以直接针对特定个体，但也有可能做出并不针对特定个体的通用决策。需要注意的是，由于这些决策出自多个来源渠道的数据集，而不仅仅取决于数据交易特定个体的数据。正如在分析阶段中算法所规制，知识是通过汇集来自广泛来源的数据集而产生，这些则是影响数据交易特定个体决策背后的知识。在绝大多数情况中，所做出的一般性决策会对数据交易特定个体的交易策略产生影响，甚至在不需要处理数据交易特定个体的数据时影响其内心交易想法。但是当算法做出的决策是针对数据交易特定个体本身的时候，仍然主要是来自分析阶段的其他来源的数据，以及在应用阶段的有限信息，决定了结果或者决策。算法论证程序具有的相对客观合理性、衔接技术中立与技术向善性、多元价值兼容性，为法律限制算法权力恣意、解决算法黑箱问题和减少算法歧视提供了全新的沟通性视角。分析阶段的大量数据加上应用阶段的少量信息，是算法流程中影响决策、预测和新信息的因素。对于规范和法律分析而言，应用形式的多样性和应用手段的多样性，通用决定或针对数据交易特定个体的决定，无论是否使用大量数据交易特定个体的数据都是极其重要的。算法流程是一个极其复杂的程序，根据实践和法律视角出发将其分为获取、分析和应用三大阶段。获取阶段是大量的数据交易特定个体的数据。在分析阶段，利用各式各样的算法分析数据提炼知识。在应用阶段，收集的数据交易特定个体的数据会被用于数据交易这个场景中，但知识和信息的主要来源并非一定来自数据交易特定个体的自主数据，也很有可能来自其他数据。显然，获取阶段、分析阶段和应用阶段是分离的。算法流程中的某些阶段可能数据处理是关键因素，但在另一个阶段则可能并不重要。在算法流程中，不同法律规制不同算法流程的不同部分，不同阶段需要运用不用的法律手段和解决方案。以算法规制算法，通过规范的计算化、规制的技术化、技术的反馈化三个界面的勾连，使规范穿透算法的外衣，直达算法的后台。算法流程论在信任基础上建构起来，在数据交易这个特定场景中，显示出算法流程是由不同阶段组成，不同的法律规制适用不同的行为，不同的行为则伴随着不同的风险和责任。这是算法流程划分为不同阶段进行规范分析和法律分析的核心和优势。在算法场景化规制原则的指引下，可以构建算法公开、数据赋权与反算法歧视等算法规制的具体制度。结语算法黑箱的存在，并不仅仅是因为知识鸿沟的存在，更多的是由于使用算法的组织和企业，它们在数据交易中运用算法自动化决策为自己谋取利益的最大化，完全摒弃了交易的基本诚信原则，使得数据交易无法真正建构算法信任。算法作为一把双刃剑，如何看待和运用算法远比算法本身来得重要。数据交易这个特定场景中的数据和算法深度融合导致了原先的信任失衡，算法权力逐渐异化了数据交易的各方面，如何让重构算法信任实现算法规制显得尤为重要。如何使用算法从而促进数据交易成为当下的实务和学术界的热门话题，在数据交易中规制算法从而促进数据的流通利用，从而规制算法秉持算法的技术中立性，发挥算法的技术性的优势，从而促进数字经济的良性发展。我国算法治理和数据治理深度融合，数据保护立法刚刚起步，应当将数据保护和算法规制同步推进，促进我国算法治理体系的建立。
往期精彩回顾陈军标｜检察数据可视化的探索、应用与创新
孙伟｜论以“数字检察”范式服务保障城市数字化转型
唐端样｜数字时代法律的算法个性化研究
舒平安｜大数据赋能行政检察监督的现状检视、实践模式与发展策应
曹媛媛｜智慧法院建设背景下“互联网+”民事执行的实践困境及完善路径研究
崔家龙｜数据要素市场的逻辑阐释、困境挑战与本土回应
上海市法学会官网
