论文 | 算法的权力属性及其体系归属

【关键词】事实权力；算法权力；算法权利；算法规制

【作者】毕源武，北京市丰台区人民检察院检察官助理。

一、问题的提出

从语词构成来看，算法权力可以拆分为“算法”与“权力”。事实上，算法的概念是相对明确的，比较权威的定义是：“通过所掌握的信息使算法使用者，得到某一针对性问题的答案，或掌握输出信息的一系列指令的策略”。简言之，算法就是一系列指令，告诉计算机该做什么。从“权利”的角度而言，算法与数据权利和知识产权都息息相关，作为一种权利客体不存在争议。从“权力”的角度而言，传统公法学理论基于国家与社会二元分野的分析框架，一般将“权力”理解为公职机关的力量与资格。那么，在这一视角下将“算法”与“权力”两者组合起来表达，就需要面对一个重大的挑战：算法作为一种技术，它具备“权力”属性么？这一问题便是本文探讨的核心之处。

事实上，权力这一社会现象本身具有多样性，且人们赋予了其多元的价值内涵和丰富的讨论语境，导致关于权力的定义纷繁复杂，不同的哲学思潮中对权力的理解存在一定差异。近代以降，权力的含义仍在不断扩展，但过于广泛的权力概念相当于在深度和特性上等量的丧失。在人工智能时代，公权力呈现出横向维度的分散，表现出了权力主体去中心化、权力作用范围延展化和权力互动双向化的变迁。因此，在对算法是否构成一种权力的证成中，需要回归到权力本身的基本特征，即权力本质上是一种支配。根据马克思·韦伯对权力的著名定义，拥有权力意味着“在一种社会关系内，自己的意志即使遇到反对也能贯彻的任何机会，而不管这些机会建立在什么基础上。”这一概念明确地诠释了，在权力运行过程中，权力主体的意志对于权力对象意志具有制约性，无论权力对象是否认可和接受该权力行为，权力主体的意志都将被权力对象服从。同时，这也意味着权力主体与权力对象地位的不平等性，实质上权力主体与权力对象之间构成统治关系，权力的运作可以被简化为“命令——服从”。

以算法所处的多领域来看。在政治领域，算法形成了一种支配力。一方面，公权力本身就是一种支配性的能动力量，算法嵌入到公权力的运行当中，自然也具备并放大了这种力量。长期以来，公共机构因缺乏专业决策、响应缓慢和服务标准不统一为人们所诟病，传统的计算机技术虽然能够实现行政数据的收集和分类，但很难挖掘出数据背后的关联性，而算法凭借技术优势能够对已有数据进行更为专业和标准化的监测分析，可以有效缓解上述问题。另一方面，算法甚至还在某些领域逐渐取代公权力，成为直接的决策者和执法者，形成了独立的支配力和影响力。虽然算法应用可以在很大程度上提高效率，但长此以往可能会矮化自身的批判能力，转而更多依赖于算法给出的预测结果，最终导致对算法的盲从。在经济领域，算法同样形成了一种支配力。其一，互联网巨头凭借数据资源、算法技术不断积累自身资本，形成对公权力的一定支配。例如，我国国务院反垄断委员会于2021年2月7日发布的《国务院反垄断委员会关于平台经济领域的反垄断指南》，就是公权力面对网络平台经济挑战的产物之一。除此之外，互联网巨头所掌握的数据资源和算法技术还能够成为其与公权力进行博弈的筹码，借以不断扩大自身的支配力。其二，在算法工具的作用下，网络平台能够对市场竞争者进行限制。有学者指出，几大超级平台通过无限制地收购兼并，基本控制了整个互联网行业的创新与竞争。其三，算法平台对使用者也具有极强的支配力。例如，软件往往要求用户同意数据获取，但用户并不清楚个人同意的具体内容，也不存在拒绝同意的可能，否则就无法正常使用该软件，这一现象背后实质上也是权力在发挥作用。

故此，算法作为一种技术并非“权力无涉”，它凭借自身的技术优势嵌入政治领域和经济领域，形成了一种支配力，构成了算法权力。然而，权力是一种特殊的社会现象，在法治社会中，权力不仅有事实上的，更有规范意义上的。当我们言说“算法权力”时，如果仅止于事实层面的描述，那就无法很好的区分什么时候它在正当的运行、什么时候又出现了“权力的异化”。因此，以法学角度即规范学的方法作为研究算法权力的视角是尤为必要的。

二、算法的权力属性理论内涵

算法已演变为一种新型的权力形态，即算法权力。进一步而言，算法的权力属性理论内涵有必要进行诠释：一是算法权力的生成逻辑，为算法从一种技术演化为一种权力的过程进行阐述；二是算法权力的规范来源，为算法权力的正当性基础提供论证；三是算法权力的法律挑战，为规制算法权力的必要性奠定基础。

（一）算法权力的生成逻辑

算法在计算机科学领域的含义是指“一种有限、确定、有效的并适合计算机程序来实现的解决问题的方法”，其本质上属于数学意义上的推演过程。然而，在大数据时代的背景之下，算法作为分类、排序、检索、解释和决策的核心驱动力，支撑着私人、公共与商业领域的稳定运转，算法进而成为了一种新型的权力形态。

第一，从算法技术权力演化的哲学根基这一角度来看，算法权力倾向于福柯视域下的权力范式，即人们难以察觉到算法权力，但它却如毛细血管一样散布于社会的各个领域，通过对人进行监视、规训以及控制实现自身的支配力。“微观权力”强调权力与知识之间积极的生产性，权力与知识之间是直接相互连带的，知识需要依托于权力关系的建构方能存在和发展，权力关系需要依托相应的知识体系方能存续和运作。不仅如此，权力从未局限于某个领域，从未被任何人掌握，也并不是作为商品或财富存在，而是通过一个网状组织来使用和行使。换言之，“微观权力”去中心化地渗透于社会的各个角落。算法对人所施加的规训，既不存在法律上的强制规定，也并非福柯所描述的“国王的命令”，而是通过算法自身的生产性所实现的。

第二，从算法技术权力演化的法理基础这一角度来看，算法本身在法律上的定位始终是权利客体。尽管算法在公开性上存在局限，在可专利性上存在争议，且对算法是否能够申请版权保护也没有形成统一的意见，但将其作为商业秘密进行保护是存在较少争议的。一方面，与算法相关的权利能够为算法权力提供正当性基础，使其具备了权利性。算法权力的权力资源主要来自于数据与技术，分别对应着上述所提及的数据权利与知识产权。另一方面，与算法相关的权利为算法权力的行使提供了权力保障。被法律认可的权利存在两个核心特征，即正当性和有效性，在社会共同体中，一定的权利总是通过一定的义务来保证实现的，这种“义务”本质上也意味着权利主体享有一定的支配力，当义务主体拒绝履行相应义务时，权利主体可以诉诸某些特定的强制性力量，要求义务主体服从权利主体的意志。比如，平台作为算法的开发者和所有者，对算法运行中产生的数据等各种权利享有合法利益，在面对不法侵害的时候可以诉诸法律途径予以维权，即通过司法权对权利的保障来行使自身权利，而这种得到权力保障的权利在一定程度上也将进一步巩固算法权力的地位。

第三，从算法技术权力演化的现实依据这一角度来看，算法权力依托于其系统架构而存在。架构又称为软件架构，是计算机科学领域的专业术语，主要是用于指导软件系统各个方面的设计，其效力体现在通过既定路径和预设方案来解决特定问题，亦即表现为对架构内行为主体的规制作用。算法技术系统区别于传统技术物，人的操控在各种层面都发生着不同程度的削弱，最为显著的就是对于算法技术的理解，即人们所熟知的“黑箱”。算法通过将众多复杂的概念转化为特定、简单的数据，并借助自身架构完成运算，最终输出算法决策，这一过程中使用了哪个或哪些特定概念，是大部分人无意也无法探知的。无意探知是因为，人们普遍相信算法能够更为高效地输出精准决策；无法探知是因为，算法技术本身属于高层次技术，大部分人不具备算法知识，即便是同样具有算法知识的人，也并不总是拥有相同的技术水平，更何况在某些时刻算法已经超出了其设计者的理解。

（二）算法权力的规范来源

在现行法律规范中，如果以“算法权力”为关键词进行检索，将会一无所获。按照哈特对权力的理解，在法律未作规定的领域，不存在法律权力，因而就会得出不存在算法权力的结论。严格来讲，这种结论是合理的。当前有关算法权力的学术研究中，也更多也呈现出对其合法性和合理性的质疑，但同时又引发我们的迷思：处于这样一个“算法泛在”的社会，我们自身甚至都已经默许、接受了事实存在的算法权力，难道它就不具备任何规范性的基础么？

第一，算法权力来源于与算法相关的权利。似乎是受到其他学科的影响，在提及算法时，我们总习惯将之与权力相关联。但事实上，算法自身同时存在着权利的面向，也正是这些与算法相关的权利为算法权力提供着原初的正当性基础，甚至可以说：算法权力正是由与算法相关的权利在运行过程中转化所形成的。需要说明的是，本文所提及的与算法相关的权利区别于部分学者“算法权利束”的概念，后者包括算法解释权、反自动化决策权、人工接管权、技术性正当程序权、关闭算法权等，其束点在于规范算法权力行使，防御算法权力的滥用风险。因此，从发生学的角度而言，算法权利束是晚于算法权力的，自然更要晚于与算法相关的权利。人工智能的基础性要素是数据和算法，与算法相关的权利也可以从这两个要素进行切入。一方面，算法与数据权利密不可分。算法的运行是以数据为基础的，而数据若想显现出自身的价值，又需要经由算法程序的整合和分析。尽管数据权利包含了多元主体和多样权利，但此处所提及的数据权利实际上是有侧重的，即更多地聚焦于类似数据收集权、数据挖掘处理权、数据存储和交易权等这样的财产性权利上。基于上述权利，掌握算法的主体能够合法的对数据进行收集、通过算法进行处理以及进一步的存储和交易。另一方面，算法与知识产权息息相关。研发算法通常是一项非常重大的投资，其开发人员和背后投资者当然希望能够确保算法工具的价值，而实现这种保护的核心路径就是通过知识产权制度。因此，无论是从承认和保护算法投资者的投资利益来看，还是基于对算法设计者的知识利益保护，都指向了算法作为技术方案具有获得专利制度保护的可能。

第二，算法权力以既有权力为载体。算法深度嵌入政治领域与商业领域的运作已经是不争的事实，而政治与商业原本就是权力发生和作用的核心领域。事实上，算法本身作为一种技术，正是通过自身的嵌入优势，以既有权力为载体，在不断增强这些权力的同时，又悄然地影响、摄取这些权力，从而源源不断地为自身提供规范性的来源，最终导致了技术权力化与权力技术化的现象。在公权力领域，目前政府治理所采用的算法技术普遍采取“技术外包”的研发模式，即公权力机关将治理所需要的算法技术交由公权力机关以外的科技公司和数据服务商等主体，公权力机关负责提供各种治理过程中所产生的数据，负责技术的公司则依照公权力机关对算法系统的目标需求开展研发并负责维护。这种根植于知识类型不同的研发模式形成了算法技术对公权力一定程度上的支配和控制，推动了公权力领域中的算法权力化。随着近年来互联网平台企业的迅速发展和成型，无论是理论界还是实务界，均意识到了平台所掌握的巨大支配力和影响力，“平台私权力”的概念应运而生。事实上，算法是所有网络平台的核心，通过算法对平台所掌握的数据进行深入分析，进而提升自身的服务能力。一方面，法律对网络平台企业进行了授权。例如，《网络安全法》第47条规定网络运营者应当管理用户发布的信息，针对法律、行政法规禁止发布或传输的信息，应当立即停止传输并采取消除措施。从逻辑上看，这是国家向网络服务提供者施加的义务，从另一个角度看，这也是一种授权，而这种权力的行使主要依托于算法的自动监测和反馈，算法如何判定特定信息就成为了重中之重。另一方面，掌握算法的主体与算法用户达成了契约合意。从平台的底层技术逻辑来看，无论是平台的架构，还是其所使用的应用程序，算法都起着决定性的作用。在注册平台或应用程序时，勾选“知情同意”规则，表面上是接受网络平台的管理和控制，实质上是在允许其所使用的算法发生作用。契约作为权力来源的重要依据，也就成为算法权力获取正当性的基本途径之一。

（三）算法权力的法律挑战

科技在塑造新的权力，也在塑造新的法治。在数字法学的话语体系中，权力与权利概念及相关理论有了新的蕴涵。算法权力的迅速崛起对现行法律制度产生了巨大挑战：在法基本价值方面，算法偏见冲击着平等价值，算法“黑箱”冲击着自由价值；在法核心概念方面，算法使得既有权力出现运行的失范，同时加剧商业秘密权利与公共利益之间的冲突；在人的主体性方面，算法权力削弱着人的主体地位。

第一，算法权力冲击着法基本价值。从“平等”价值看，数字歧视多以间接歧视的方式呈现。尽管有人认为算法作为一种技术能够实现中立，可以有助于不平等现象的解决，但算法运行并非是完全中立的科学活动或数学活动。无论是算法联结学派的逆向演绎，还是贝叶斯学派的概率推理，本质上都是基于数据的“相关性”运行的。然而，这种“相关性”背后所对应的考量因素则往往隐藏着歧视的根源。这种歧视可能来源于算法自身的设计存在偏见，也可能是算法在运行过程中处理较多数据时所产生的歧视，亦有可能来源于某个特定群体长期以来的弱势地位，进而导致算法在获取数据时就已存在偏见。从“自由”价值看，在意志自由方面，算法技术使得我们的思想变的可视甚至可追溯。在行动自由方面，算法依赖于数据的获取来不断提升运行的精度，但被收集的数据越多，对个人私生活的潜在侵扰就越严重。

第二，通过算法提高政府治理能力和促进数字经济水平是原有的预设情形，但由于算法自身的“微观”特性致使这一目的在不断达成的过程中，同时出现了既有权力运行失范的问题。从“权利”的角度而言，算法本身研发需要成本、具备商业价值、符合商业秘密所保护的构成要素，将其作为商业秘密的保护对象不存在争议。然而，面对算法技术快速崛起所带来的一系列挑战，商业秘密似乎又成为了算法霸权的保护伞。从“权力”的角度而言，由于现有的法律制度缺乏对算法权力进行规制的资源，因而时常发生权力滥用等情况，有学者将其称之为“算法权力的异化”。一方面，算法适用的领域呈现出无序扩张的趋势。事实上，传统自动化行政区别于算法适用。前者通常是基于过程增量的自动化应用，如税务机关通过人工智能实现对数据的快速录入和分类，而后者则更多呈现出机器自主性的特点，意味着算法能够不受人为干涉的做出自我选择和决策输出。在公权力内生驱动治理改革、私权力内生驱动领域扩张以及技术外部迭代的加持下，算法权力在未经审视的情况下广泛的介入公共管理之中。另一方面，算法的嵌入致使权力遵循正当程序的要求面临空置。按照正当程序原则的要求，权力主体应当在做出可能影响相关主体权益的权力行为时，对自身将要或已经做出的权力行为进行说明，同时给予相关主体进行申辩和表达诉求的机会。然而，嵌入算法的规范性权力决策通常具有即时性的特点，面对算法自动生成的决策结果，不仅相对人难以理解，甚至权力行为人同样无法作出合理解释，更有可能借以商业秘密或国家安全为由拒绝解释，技术面纱使权力在循环中不断得到巩固，由此产生算法行政权力异化。

第三，算法权力削弱着人的主体地位。算法驱动下的人工智能暂时处于弱人工智能向强人工智能迈进的阶段，仍然可以将算法作为工具进行看待，但在其运行过程中确实削弱着人的主体性地位。个人使用算法似乎完全符合独立性，因为最终决定权掌握在自己手中。然而，这些算法在使用之初就并非为我们所控制。仅以司法裁判为例，短期来看，算法的应用可以在很大程度上提高效率，毕竟在更少选择中做抉择相较于自己寻求答案要更为便捷。但长此以往则会矮化人类法官自身的批判能力，不再具备填补漏洞的主动性和技巧，转而更多依赖于算法给出的预测结果，从法官的完全参与将逐渐转变为“人机合作”的决策，甚至出现对算法的盲从。有学者进一步指出，如果对大数据智能产生非理性崇拜，那么大数据辅助证明有可能被异化为新的神明裁判方式。事实上，当前广泛探讨的算法“可解释”在很大程度上是一个假问题。原因在于，对不了解算法技术的群体而言，即便进行了充分的解释，很可能仍然无法实现正当程序的要求；即便对于了解算法技术的群体，甚至是对于算法本身的设计者而言，由于算法已经具备自主学习的功能，其内部的快速更新也可能导致人类无法对作为客体的算法技术有充分的认知。

三、算法权力的体系归属

如何为算法权力在现有的理论体系中找到归属，不仅是理论层面认识算法权力的需要，同样是规制算法权力的前提。尽管算法权力具有公权力与平台私权力的色彩，但权力效果并不等于权力本身。后两者本质上属于规范性权力的范畴，具有明确的法律授权，兼具“权利性”与“责任性”，而算法权力的这些要素则尚不完备。因此，算法权力并不属于规范性权力的范畴，而应当划归于事实权力的领域。

（一）事实权力与规范性权力

就法学对权力问题的研究而言，不能仅止于事实、经验上的描述，更重要的是关切什么样的权力具有“规范性”。换言之，我们不仅需要描述“权力实际上怎样”，更要阐释“权力应当怎样”。既然决定要从规范的意义上研究算法权力，那么首先要解决的问题就很明确了，即什么是规范性权力，更进一步而言，这种权力与事实权力之间存在什么样的区别与联系？“事实权力”这一术语在我国最初被学者用于描述地方财政自主权，认为在明示的法律规范体系之内不存在“财政自主权”这一规范概念，但在事实效果上又很难与法定权力相区分。因此，本文所指的“事实权力”同样是指其所产生的事实效果，而不从规范性角度评价其合法性及合理性。

如果仅将权力关系理解为事实上的支配性关系，“权力”与“强力”就别无二致了。现代社会中权力之所以能够得到服从，不仅是因为其具备支配性的力量，还具有着某种最低限度的合理性和可接受性，背后反映着某种社会选择或社会共识。比如，我国《宪法》第126条规定“人民法院依照法律独立行使审判权”，其中就蕴含着两个层面的内容：其一，人民法院享有审判权；其二，人民法院应当依照法律对案件进行裁决。而面对人民法院行使审判权所做出的司法裁判，当事人作为权力对象又呈现出这样的特征：一方面，当事人对司法权的行使表示“认可”，“自愿”服从所做出的裁判；另一方面，这种“自愿”并非必然是当事人满意所做出的裁判，同时蕴含着“奉命行事”的影子。换言之，法院作为行使司法权的主体，其对案件作出最终裁决背后的意志，于当事人而言，仍然具有“支配性”的力量。因此，本文将规范性权力界定如下：这种类型的权力可以将“支配性”与“规范性”结合起来，一定范围内的人们不仅服从这种权力，且普遍的以某种价值标准或行为规范来规制权力的行使。

进一步而言，关于事实权力与规范性权力的关系问题，显然存在着这样几种可能，即将二者视为等同、无涉、存在交集、包含于和被包含于。在明确了规范性权力的概念后，回答这一问题就变得相对简单了。应当认为，规范性权力包含于事实权力之中，是事实权力的一种特殊类型。规范性权力同样具备权力的基本属性即“支配性”，一旦人们拒绝服从规范，权力主体仍然能够采取某些强制性措施贯彻自身的意志。但是，由于同时存在着规范性因素的判断，诸如习惯、道德或法律等，如何行使权力、由谁行使权力、行使何种权力等问题都形成了一定的标准。

（二）算法权力不属于“法律权力”范畴

在开始讨论前，有必要明确这样一个共识，即此处所指的“权力”并非事实意义上的，或社会学意义上的，而是特指规范性权力中的“法律权力”。相较于其他规范性权力，法律权力的核心在于其规范来源是法律的直接授权。换言之，法律权力是法律承认并保护的强制他人服从的力量。无论是公权力，还是私权力，只要它们存在，其所产生的法律效果都是使权力对象处于“责任”的状态之中，而当权力被行使时，“责任”又将转化为“义务”的形式。

第一，从法律权力的概念出发，法律权力来自于法律规范的规定，来自于立法机关对于法律权力的规定。这就要求，授予权力的法律规范需要明确权力主体、权力范围、权力运行程序等内容。算法权力显然不存在法律规范的规定，其权力主体及权力范围在“微观”特性下呈现出弥散和无序扩张的特征，权力运行程序也并非由法律予以规定，而是依照自身的计算机程序运行。

第二，从法律权力要求的“权利性”出发，法律权力应当以实现和保障权利为价值导向，这里被实现和保障的权利侧重于权力对象。比如，《慈善法》第6条规定，国务院民政部门主管全国慈善工作，县级以上地方各级人民政府民政部门主管本行政区域内的行政工作。该条中的“主管”就是针对慈善工作的管理权，这种管理权是为了实现对慈善工作的统一规范管理，从而保护各方慈善活动参与者的合法权益。然而，算法权力的“权利性”往往体现在对权力主体自身的权力保障，如通过商业秘密为自身的拒绝公开提供辩护。更为重要的是，算法权力区别于平台私权力。后者是经由法律授权的产物，如国家互联网信息办公室所颁布的《互联网用户账号名称管理规定》中，就赋予了互联网信息服务提供商对用户提交的账号名称、头像等注册信息进行审核的权力，而算法本质上是互联网信息服务所需要的技术底层架构，不存在对算法技术本身赋予权力的明示法律规定。

第三，从法律权力要求的“责任性”出发，法律权力强调行使权力造成不利后果时需要承担法律责任，而算法权力则面临各种意义上的归责困境。一方面，传统侵权责任“行为—责任”的认定机制难以发挥作用。算法技术所导致的侵害具有非完全人为性的特征，其从未被掌握在任何人手中，尽管人类可以在算法所输出的各种决策中进行选择，但这些决策本身是经由算法系统运行挑选后输出的，至于是否穷尽了可能性、在多大程度上受到算法技术影响都很难量化。另一方面，“技术研究与技术应用分离”和“终端责任”的法律规制原则也已不再适用。一般而言，法律突破“因果关系”归责困境时，会采用“过错推定”或“严格责任”的模式。然而，算法“黑箱”的存在导致这些归责原则难以适用，算法本身存在诸多不确定性，其设计者难以证明自身在算法所造成的损害中没有过错。比如，算法系统所依据的数据原本不具有歧视性，但运行过程中需要不断获取现实社会中的数据，而现实社会中原本存在歧视使得被获取的数据并不清洁，最终造成实质的算法歧视，此时适用“严格责任”显然就缺乏公平。因此，仅凭算法所造成的“损害事实”很难找到责任主体，算法权力的“责任性”自然也就存在缺失。

（三）算法权力归属于“事实权力”范畴

算法权力的定性是极其复杂的。一方面，在明示的法律规范体系内，不存在算法权力这一规范性概念。另一方面，在“支配力”上，算法权力的实际效果又往往与法律权力难以区别。这种复杂性同时还体现在，算法权力虽然不属于法律权力，但又拥有一定的规范性来源，使得其具备部分规范属性。在公权力垄断的传统权力结构中，公权力主体内部的不同部门对不同领域权力的微观划分构成农业和工业时代国家权力关系结构的基本图式，但算法权力的生成逻辑从形式上打破了一元化公权力内部不同主体划分的既有模式。现代信息技术塑造出了全新的社会适应机制，以系统架构为核心的算法权力通过嵌入到既有权力的运行过程之中，不仅获取了自身的支配力量，同时推动了权力主体的“去中心化”。在公权力治理过程中使用外包的算法时，必然会存在关键数据、决策逻辑等信息的外流，其本质上是公权力向不特定社会群体的转移，而这种转移的方式及限度均不存在法律规定，进而打破权力专属的传统决策架构。

第一，算法基于自身的技术特性，孕育和形成了以法律性为核心的传统国家权力认知模式之外的一种事实权力。长期以来，人们认为数字本身并不具有实体意义，同时囿于狭义的技术观念，仅将算法视为一种工具。事实上，数字能通过数据、信息及知识的社会实践来与社会主体的实体权利相融合，从而在一定程度上实现自身的社会化和实体化，而算法的“准公共性”使其支配或控制能力广泛的进入到各种场景之中，从而影响到他人或组织的现实利益，使得算法从技术权力的基础或要素转化为技术权力本身。在社会运行过程中，人们总是扮演着不同的职业角色，存在于多种技术体系的建构与运行之中。因此，所有技术形态总是在某种或多种社会场域中，通过特定的个人或组织进行创建或操控以进一步影响人们之间的现实利益，从而展现出技术的权力属性，这也是技术哲学家们将技术理解为人类意志表达的核心原因。当前，算法广泛地应用于各种社会场景，深刻地影响着权利与权力的运行，这种权力并非以法律规范为依据，而是以自身的技术程序代码为规范，加之与算法相关权利的保障，算法权力同时呈现出“权利——权力”相互交织的状态。这也解释了为什么算法权力尽管没有直接授权，却仍然能够发挥事实上，乃至法律上的权力效果。

第二，算法作为权力行使的新方式对公权力与平台私权力进行赋权，即权力的技术化运作。这种运作并非仅仅放大既有权力的效果，同时也催生着既有权力的事实性转化。算法本质上是为了解决特定问题而设定的代码，这就决定了算法具有一定的稳定性，使得算法系统能够借助自身的可重复性和精确性，实现自身规模性的应用。在法律规范中，通常可以看到“不得”“应当”“禁止”等字眼，实际上就是在创设法律义务。霍布斯主张义务的概念本身蕴含着有效条件，如若义务在逻辑上不可能时，人们不负义务。康德在对法律义务进行阐释时同样认为，义务是出于对法则敬重的一个行动的必要性，但义务概念只针对作为有限理性者的人类，对非理性的自然界与动物以及完全理性的上帝都无义务可言。这就意味着，法律义务在本质上始终与自由以及选择相容，因而法律权力的行使并不总是能够达致自身意图的实现。然而，通过算法行使权力使得法律权力在行使过程中避免了被对抗的可能。当然，算法又区别于简单的自动化程序，其自身具有双重不确定性的特征。通常而言，人们进行决策与选择的过程是可以探知、能够公开的，所以决策的不确定性在某种程度上能够进行预测和防范。然而，当我们选择通过算法系统直接决策或辅助决策时，风险在时间维度上可能前移至选择算法的那一刻。因此，行使算法权力的主体同样面临着被算法技术所规训与控制的风险。或许，这也是对抗算法权力的体现，只不过这种对抗并非来自权力对象，而是来自算法技术本身。

四、算法权力规制的可能路径

在权力问题上，法治的核心特征是“不全则无”，如果存在超越于法律规范之上的权力或特权，法治秩序就会分崩离析。算法作为技术权力的核心体现，其控制是一项及极其复杂的系统工程。在技术权力控制的问题上，技术自主论者认为人类不能控制技术及其发展。而技术建构论者认为，通过政策与法律调控、伦理与道德规范等途径，能够实现约束和控制技术权力，尽量避免技术演进所带来的负面效应。

（一）从事实权力走向规范权力

有两句著名的法谚，即“强力产生权利”和“强权不等于公理”，前者清晰的反映了权利的形成与实现依赖于权力关系，后者则明确指出了权力的长久、稳定存续需要正当性的基础。权利行使不仅为权力提供权力资源，同时为权力提供权力保障。权力的行使并非总是不受任何规则约束的，社会学家海因里希·波皮茨就将权力进行了分层，包括分散性权力、规范性权力、权力安置、统治地位结构和权力制度化五个阶段。尽管已有的权力关系并非总是经历上述几个阶段，但至少能够阐明，权力的行使虽然最初的表现形式是强力，但最终会向一定的习惯、道德、法律等行为规范为指引的规范状态过渡。换言之，权力会在某种规范的指引和调整下，逐渐规范化、普遍化，进而实现持久的权力关系，这也是权力自身的需求。因此，作为算法规制的“元概念”，如何由事实算法权力走向规范算法权力是亟待解决的核心问题。

第一，规范性权力具有权利性，算法权力若要向规范性权力转化，不应仅由与算法相关的权利为自身提供正当性来源，同时需要将权利视为自身的内在价值导向。一般而言，算法所涉及的利益相关方包括算法的研发者、算法推荐服务提供者以及算法的用户，不同主体的利益诉求并不相同，甚至会有所冲突。对于算法的研发者而言，其利益诉求是通过自身的技术获取服务报酬；对于算法推荐服务提供者而言，其利益诉求是通过算法应用实现自身的资本积累；对于算法用户而言，其利益诉求是通过算法获取便捷的服务，与此同时尽可能少的受到利益损害。当前，算法权力的运行过程中更侧重于实现算法推荐服务提供者的利益诉求，对算法研发者的利益诉求也能够基本保障，但时常会侵犯到算法用户的个人利益。因此，通过引入法律治理中经常使用的价值衡量方法，实现各方利益的适当平衡，是算法权力向规范性权力转化的题中应有之义。第二，规范性权力具有责任性，在算法权力向规范性权力转化的过程中，应当通过立法压实各方算法主体责任。《算法治理意见》关于健全算法安全治理机制部分指出，应当强化企业主体责任，这种规定实际上就是要求企业对算法应用产生的结果负主体责任。由此可见，“责任”作为公法领域经常提及的词汇，同样可以适用于私法领域。当然，私法领域中更多是强调“权利与义务”，比如商业秘密保护的权利就常被用作涉算法纠纷中的抗辩事由。因此，为了达致算法权力与权利的平衡，赋予个人以权利就成为了对抗类似商业秘密保护这种私权的有效路径。一方面，算法推荐服务提供者仍然可以采用商业秘密保护作为相应的抗辩事由。但另一方面，算法用户也可以通过同为私权的算法解释权、反自动化决策权等作为请求权，要求算法推荐服务提供者承担相应的法律义务。不仅如此，这些被赋予的个人权利同样可以对抗在行政、司法工作中违法使用算法侵害自身利益的行为，从而成为规制算法的重要手段。

（二）算法设计阶段：建立算法伦理评估机制

算法伦理评估机制是指评估主体依据不同利益方的反馈对算法研发中可能存在的伦理风险进行分析和论证，最终提出相应的算法修改建议或应用对策。算法的价值观建设是人类化解“人工智能威胁”的有效机制，“坚持正确导向，强化科技伦理意识”是算法综合治理的重中之重，通过在算法设计阶段的评估，能够实现从对算法应用的规制到对算法底层代码的源规制，尽量将算法歧视等风险降到最低。具体而言，算法伦理评估机制的构建包括以下几个方面。

第一，通过立法设置算法设计伦理义务。当算法脱离“实验室”，如约瑟夫·劳斯所说一般，与社会之间的权力关系相互渗透之后，就使得法律必须回应算法并非价值无涉的一面。法律从来没有享受过价值无涉的保护伞，而是必须持续的回应公众的价值观期待。这就要求在算法设计阶段，需要将法律所追求的伦理价值，诸如公平、正义、自由等嵌入到算法程序之中，使其在运行过程中能够保证至少不背离这些基本价值。比如，欧盟出台的《可信赖的人工智能准则》中将“人的价值”作为人工智能的首要考量因素。互联网巨头企业在其人工智能伦理的主张中，也体现了默认伦理的诉求。

第二，在算法设计伦理的评估过程中，需要做到算法设计与算法评估相分离。这种制度设计的根本目标就是避免评估机制的空置，保障评估过程和结果的客观及中立。《算法推荐规定》第7条中，要求“算法推荐服务提供者落实算法安全主体责任，建立健全算法机制机理审核”，但算法往往就是算法推荐服务提供者直接委托技术人员进行设计的，当评估主体与设计主体高度重合时，极易出现利用自身职权优势影响评估结果的情况。因此，在压实设计主体自身审查义务的同时，还应引入第三方机构进行评估，既可以直接由政府成立专门的审查部门，也可以通过委托专门进行算法技术评估的机构实现。需要说明的是，由于算法不仅应用于商业领域，且嵌入到行政、司法工作内容中，往往导致算法权力与公权力的“合谋”，因此第三方机构内的工作人员并不直接负责评估工作，而是仅负责公布评估任务、组织相关议程和监督评估过程等程序性工作。至于具体的评估工作，仍要由专业的技术工作人员、伦理学家、法学家及各个利益相关方的代表进行。

第三，在进行算法设计伦理评估的同时，还需要完善算法分级分类和备案制度。当前，《算法推荐规定》第23、24条初步规划了进行算法分级分类和备案制度的设计，但仍待进一步细化。在已有的规定中，可以看出制度设计思路是参照算法推荐服务的舆论属性、社会动员能力、内容类别、用户规模、数据重要程度、干预用户程度等因素进行。事实上，上述因素可以被概括为算法的具体应用场景及决策所可能产生的社会影响，据此可以将算法按照初级风险、中级风险和高级风险划分等级。在初级风险算法中，其对个人权益的直接影响较低，几乎不涉及公共利益。比如，阿尔法狗作为围棋算法，其只是关涉到如何“落子”，并不会产生棋盘之外的影响。对于这部分算法，实际上在审查过程中就可以相对放松标准。在中级风险算法中，其就需要收集个人信息、应用于公共领域、部分涉及公共利益。比如新闻个性化推送算法，需要建立在对个人信息进行分析的基础之上，容易造成信息茧房；又如深度伪造技术中的算法，可能导致个人财产的减损及社会信任的危机。对于这部分算法，就需要在审查过程中注意是否侵犯个人信息保护，引入合法合规审查机制。在高级风险算法中，相较于中级风险算法，主要体现为算法的自动化决策，应用领域包括行政、司法工作、电子商务领域、个人信用评分等，这类算法高度自主，且对个人权益往往直接产生影响。对于这部分算法，就需要进行严格的审查和备案，在具体部署前必须完成相应的算法伦理评估和公告。

（三）权力运行阶段：完善多元审计监督体系

当前，针对算法权力的监管方式聚焦于行政审查及第三方专业机构。问题在于，无论是行政审查，还是第三方专业机构，他们都是从宏观角度和惯性技术思维下对算法开展监管。多元审计监督体系中的“多元”应当包括“监管内容多元”、“监管方式多元”及“监管主体多元”。这种监管模式的核心目标是达致算法权力运行的尽量透明，将“隐蔽的权力”重新置于公开运行的环境之下，接受各方主体的监管，避免出现既有权力运行失范的问题，同时为后续的责任回溯形成制度保障。

第一，多元审计监督体系要求“监管内容多元”，这主要体现在两个方面。一方面是针对算法本身开展监管，这部分的内容可以参照算法伦理评估机制进行，但要注意算法在运行过程中可能基于机器学习偏离设计时的预期，需要动态进行监管和调整。另一方面是对算法运行所需个人信息及数据的监管。数据既是财产权的客体，又蕴含着人格价值，是算法的核心质料。《算法推荐规定》第7条要求算法推荐服务提供者落实数据安全和个人信息保护，实质上是指向了《数据安全法》与《个人信息保护法》的内容，但现有法律资源并不能很好的直接应对算法所带来的挑战。对此，可以针对算法所关涉的数据进行分类，从而设置不同的应对思路：面对敏感个人信息，需要严格依照《个人信息保护法》第二节中相应的处理规则进行；面对间接可识别数据，比如虽未收集敏感信息，但能够通过出生日期和性别的组合间接锁定个人的情况，在取得个人同意的基础上可以用于算法的分析过程。严格来讲，如果处理这部分数据的目的是为了识别个人或者实施某种特定对待措施，那应当将其视为敏感个人信息，但算法运行中各个阶段的数据并不总是直接关联的；面对去识别化的数据，即经过技术处理无法直接或间接识别个人信息的数据，算法可以相对自由的进行使用。唯此，方能实现个人信息安全的保护与数据相对自由流动的平衡。

第二，多元审计监督体系要求“监管方式多元”。在确立事前审查“穿透式监管”以限制算法权力的同时，需要系统构建有限的算法披露机制。之所以强调有限的披露，是为了避免全面披露可能损害更大的利益，比如涉及国家安全的算法，显然就不宜全面披露，又如商业领域中所应用的算法如果全面披露，也会妨碍算法技术的进步和发展。《个人信息保护法》第44条确立了个人对个人信息处理的知情权，这种知情权并不以自身权利受到直接影响为前提，这就为算法披露提供了相应的法律基础。事实上，《算法推荐规定》第16条也规定了算法推荐服务者应当公示算法基本原理、目的和机制的义务。考虑到个人通常不具备理解代码的能力，直接披露反而会产生泄露算法的风险，因而应当要求算法推荐服务者主要接受监管机构的底层代码审查，同时要求监管机构承担保密义务，对于个人则无需披露上述机密信息。除此之外，《个人信息保护法》第58条还规定了特定个人信息处理者，如用户数量巨大、业务类型复杂的相应义务，算法披露机制可以参照适用，在以个人为主体的权利如算法解释权等无法有效发挥作用时，可以通过算法披露提供预警。

第三，多元审计监督体系要求“监管主体多元”。《算法推荐规定》中主要强调了行政监管以及行业自律，但算法适用于行政、司法领域的过程中存在监管缺位，且忽视了个人在算法运行反馈中的重要作用。一方面，行政、司法工作中的算法适用应当区分抽象行政行为和具体行政行为。前者需要严格纳入到政府信息公开的范围之中，能否使用算法、使用到何种程度均应以通过论证、公民监督和建议为前提。后者则需要面对特定的公民个人、法人或其他组织，辅之以算法解释权，保障嵌入算法后的权力运行避免出现异化。另一方面，在商业领域，需要加强算法行业的自律机制。算法现阶段难以解决的算法黑箱、算法歧视等内源性技术问题，需要技术主体的自觉合规意识。比如，可以引入“数据保护官”内部审核制度，欧盟《通用数据保护条例》第37条第5款中规定，由独立具有专业素养的数据保护官监管企业内部的数据处理活动。通过这种制度，能够实现对算法采取数据、处理数据的合法合规内部审查。

（四）事后救济阶段：强化私权利救济与算法问责

有学者指出，数字权利的细化与体系化才是真正落实数字弱势群体权利保护的重要方式。设置私权利本质上是对抗算法作为私权利本质的一种路径，原被告双方均可以在私权中寻求到自身的请求权基础，确保人的主体地位能够得到保障。算法问责是传统的事后救济方式，但在构建过程中需要依托于既有的法律资源做出针对性的完善。

第一，算法私权利的设置应当以《个人信息保护法》中的权利为基础进行解读和观念上的确立。在工具层面，不得不考虑的问题是，单独设置算法私权利是否有必要？换言之，既有的关于个人信息保护的规定能否延伸出算法私权利的目的和功能？如果答案是肯定的，那么算法私权利作为“观念上的存在”即可；如果答案是否定的，那么就有必要通过单独确立的方式将其固定为“法定权利”。具体而言，算法私权利大致包括算法理解权、脱离算法自动化决策权和算法解释权。对于算法理解权而言，其主要对应的是个人信息保护中的“知情权”。算法理解权意味着用户有权理解算法运作的机理，是对可能过大的算法权力予以抵消和施以监督的前提。从逻辑的角度而言，“知情”是“同意”的前提，而“解释”是“理解”的前提，《个人信息保护法》中的“知情—同意”规则在算法运行过程中实际上转变为了“解释—理解”，加重了算法推荐服务提供者的义务，但在功能上是可以暗合的。对于脱离算法自动化决策权而言，其主要对应的是个人信息保护中的“自决权”。事实上，“自决权”的本质是享有自主决定的价值与尊严，自主决定何时及于何种范围内公开其个人生活的事实。脱离算法自动化决策权实际上也是赋予个人免于接受算法自动决策的权利，将自主决策权交还于个体而非算法手中，可以将其理解为自决权在算法决策场景中的具体表现。对于算法解释权而言，其作为当前算法私权利中被广泛讨论的对象，内含着算法运行前的告知、运行中的修正以及事后的救济权利，实际上与《个人信息保护法》中所规定的“知情权”“修正权”与“删除权”也存在诸多功能上的相似。因此，在算法私权利的设置中，实际上可以结合《个人信息保护法》中既有的法律资源进行合理解释，将其作为“观念上的存在”进行学理上的细化讨论，但无需单独设置相应的权利。

第二，算法问责应当区别于一般侵权行为，主要可以体现于以下几个方面。其一，对于算法侵权责任主体，除了要求算法推荐服务提供者承担主体责任外，还需要考量算法设计者在研发过程中是否存在违反伦理、未遵循相关行业准则等情况，如果存在则要求其承担不真正连带责任。其二，应当适度延长因果关系链条。算法运行更多是参照数据之间的相关性，可能决策结果并非是某一次或某一阶段单独运行造成的，即便算法决策结果与侵害之间没有直接因果关系，也需要综合权衡算法模型、主观意图、损害大小综合确定。其三，在举证责任分配上，鉴于算法推荐服务提供者对于算法技术的掌握程度更高，宜采用举证责任倒置的模式。其四，算法问责中一般应当采用过错推定原则。个人通常限于自身专业素养难以提供证明算法侵权主体的过错，因而采用过错推定原则更为适宜。对于某些使用个人敏感信息、使用存在歧视算法的情况，则可以考虑适用无过错归责原则。其五，由于算法问责贯穿于算法设计至使用的始终，故时机成熟时也应设置对算法掌控者、算法应用维护人员等主体的算法问责机制。

第三，算法问责中个人很难对侵犯个人数据权利的行为寻求救济，应当引入公益诉讼制度。算法通常由于其应用领域的公共性，导致所造成的风险并非是针对个体的，而是针对社会的群体性风险。比如，数据作为算法的关键质料，在收集和处理的过程中往往就会出现突破最小范围原则和目的限制原则的情况，即便个体对这种情况有所抵触，却囿于如果抗拒就无法享受服务而选择同意，进而导致算法权力愈发强大，而个人则被置于了“无权利”的真空之中。人民检察院、消费者保护协会以及其他专业组织机构具备更强的取证和举证能力，应当参照《个人信息保护法》第70条中关于个人信息保护的公益诉讼制度，将算法应用危害公共利益的行为纳入公益诉讼的范围之内。需要说明的是，该领域的公益诉讼并不以私人诉讼作为前置程序，其核心目标是避免群体性风险的出现和进一步扩大。

五、结语

算法如今正广泛应用于社会生活之中。公权力为巩固和提高治理能力主动嵌入算法，私主体通过投资和开发算法以实现特定的利益诉求，由此使得算法具备相应的支配力，构成了算法权力。同时，算法权力生发于与其相关的权利，客观上嵌入到了既有规范性权力的运行之中，从而具备了相应的规范性来源，为其事实上乃至法律上的支配力提供了正当性依据。算法权力的概念建立在“微观权力”的哲学基础之上，以与算法相关的权利为法理基础，通过自身的系统架构实现技术向权力的演化。算法权力的迅速崛起对法律形成了严峻挑战，平等与自由的法律价值面临冲击，“权力”与“权利”作为法律的核心概念可能面临消解，人的主体性地位也在算法技术的迭代下面临削弱。“权力”不仅有事实意义上的，更有规范意义上的。规范性的权力要求具备“权利性”与“责任性”。通过梳理事实权力与规范性权力之间的区别与联系，可以明晰算法权力并非“法律权力”，而是作为“事实权力”存在，加之与算法相关权利的内在属性，使得其同时能够发挥规范意义上的“权力效果”，但并不等于“法律权力”本身。“算法权力”作为算法规制中的“元概念”之一，其核心目标就是将算法权力由事实权力向规范性权力转化，这就意味着要强调算法权力的运行终点应当是保障与算法相关的权利，且需要算法权力的主体承担相应的主体责任。