查看原文
其他

以程序规制推动数字技术风险治理

紫东君 人民中科研究院 2024-01-09

当前,统筹发展与安全,以高水平安全保障高质量发展已成为时代大势。


伴随着数字中国建设的推进,数字技术将更加快速地普及与应用,“数字化生存”也将成为我们的生活常态。

然而,数字技术在提供便捷与机遇的同时,不可避免会因不完备性和不可知性带来负面效应。



这种负面效应不仅体现为对人类安全、尊严、秩序的威胁和“数据鸿沟”所引发的新型歧视等实体层面法治隐忧,还可能因为数字技术嵌入权力运行,简化权力运行程序并压缩自由裁量空间,冲击中立、公开、参与等传统正当程序价值。

因此,在加快推进数字技术赋能国家治理现代化的同时,开展多维度的法治革新,深度剖析数字技术风险程序规制的法理基础,在确保数字技术之治的合法性前提下,通过程序规制促进其积极作用的发挥。



数字技术的风险


01技术应用的伦理性风险
数字技术的发展和应用,给人类的物质生活和精神生活打上了深深的烙印。其在向外界传递积极信号的同时,一些负面效应也逐渐凸显。


比如,大数据、云计算在分析、决策过程中展现出的克服和超越人性弱点的特性,可能使个人在海量数据信息面前丧失自我决定的能力。另外,随着数字技术纵向切入人类生活程度的加深,个人的生活轨迹、情感偏好等全部暴露在数字技术的视野和控制之下,存在不小的风险。
02技术应用的合法性风险


随着数字技术全方位介入人们的日常生活,人们在被动同意接受技术的同时,技术也有侵害公民权益的行为。


比如,技术系统过多收集公民个人的有关信息,可能侵害到隐私权及有关信息权益;数字技术纵向切入个体生活的加深,可能对人格尊严造成侵犯等。

03技术应用的安全性风险

遥感通信技术、大数据、云计算等数字技术的应用和推广,可能使个人的身份、位置、行为等信息置于风险之中。人们在享受着数字技术为人类生活带来便捷的同时,也可能受到数字技术的困扰。比如,在日常生活中,数字暴力、数字侵权时有发生,一些人对数字技术的负面情绪也在逐渐增多。




数字技术风险需要程序规制


01
数字技术风险最终外化为程序性风险
由于数字技术最终的呈现形式为程序员运用代码等程序语言编辑和设计的各类“程序”和系统,以嵌入式方式进入半自动化决策的流程中或者全部置换入全自动化决策的流程,应用维度的风险主要是对传统正当程序法治的冲击和瓦解,实质上是一种程序性风险。


开发维度的风险虽然也涉及平等权等实体性权利,但最终在自动化决策过程中也转化为对个人平等参与权以及决策者程序中立性地位的影响,在数字技术运用过程中已转化为程序性风险。02
实体规范运用传统法律技术难以奏效


实体规范的传统路径是将确定的规范涵摄到具体的事实中,以实现对权利义务关系的调整与规范。这一传统法律技术运用过程的前提是“规范先定”和“事实确定”。


面对数字技术风险时,实体规范的传统法律技术和路径无疑具有局限性,往往难以找到确定的事实。具有天然滞后性的法律规范也可能完全没有涉及未知的风险,这使得实体规范路径难以发挥作用。03
程序控制在数字技术风险治理方面具有独特优势


作为程序控制的核心法律技术,正当程序原则具有鲜明的时代性,能够随着规范对象的时代变迁而不断丰富自身内涵,这一特点恰到好处地解决了数字技术风险的不确定性。




同时,相较于立足决策结果的实体规范,着眼于决策过程的程序规范的制定并不需要大量信息,而且能够独立于实体规范之外,具有更容易延伸适用于数字技术风险规制的优势。





数字技术风险程序规制路径探索


对数字技术风险的程序规制本质上是要解决如何通过程序维度的制度创新。让个体在数字技术风险之下保持尊严与自由。

1
引入程序正义的“平衡论”


第一,程序正义平衡论是价值的结构性均衡

程序正义的价值实现需要排除人的恣意,而实现这一目标既需要满足过程的正当性,也需要程序主体通过互动对话而实现的可接受性、主观满意度等。前者是程序正义的客观性价值,后者则属于主观性价值,二者在数字技术风险的程序规制中要尽可能实现均衡。


第二,程序正义平衡论是一种动态均衡

程序正义平衡论对程序正义的要求和内容,无论是主观层面还是客观层面,都不可能是一成不变的,尤其在发展一日千里的数字技术领域,程序正义制度需要根据数字技术的发展不断调适、与时俱进,以使数字技术风险程序规制的各种价值得以有效释放。

同时,这种动态均衡既包括前述内部视角下程序正义主客观价值因时因势进行的动态调适,也包括外部视角下为更好地促进经济社会的规范有序与创新活力,根据社会发展需求的变化,在程序规制的规范性与技术创新的包容性之间形成有效的均衡。


第三,程序正义平衡论是一种多元均衡

传统平衡论强调“权利—权力”的二元平衡,对数字技术风险进行程序规制以多元利益博弈与平衡为目标,致力于建立多方主体和多组关系的平衡。在数字技术的开发和应用过程中,居于监管地位的公权力主体、数字技术开发公司、运用数字技术的平台企业、使用数字技术的个人都是受程序规制的主体,形成多元化主体的程序格局。


同时,数字技术的运用也带来了“去中心化”,数字技术开发公司和数字平台企业在国家权力中心之外生成一个新的中心,基于数字技术对私人生活的渗透和影响,产生了“数字权力”,并形成了新的权力格局。因此,程序正义平衡论也是对多元权力关系的均衡。

2
合理汲取技术性正当程序的客观规制技术
第一,强化程序公开性,进行更为充分的事前信息披露

数字技术的不确定性特点会将相对人置于不可知的境地并带来潜在的权益损害,相关公权力主体应当履行告知义务,让相对人知晓数字技术的实际使用状况,包括是否被运用、哪些数字技术在哪些决策环节被运用等。

同时,为了降低风险对个人权利的损害,应当增加事前测试程序,及时公布测试结果信息,并赋予相对人要求开发者、使用者对数字技术的源代码进行解释的权利,要求其以简洁易懂的方式公开代码输入和输出的过程,哪些行政活动可能对权利产生影响。需要注意的是,为避免以商业秘密保护为由规避解释权的行使,应进一步明确商业秘密保护的适用限度与边界。

第二,优化程序中立性,建立数字技术风险的审计跟踪记录机制

通过严格的责任追究防范权力的滥用,提高外在监督功能的实效。为此,可引入数字技术的审计跟踪记录机制,运用区块链技术记录每一项决策的事实和规则,并予以固化以防止随意篡改。审计跟踪记录既可以判断是否存在技术性歧视,也可以帮助使用者或信息被收集者了解有关他们的决策是如何被作出的,以及基于何种数据作出的。这既能够对数字技术的研发人员和使用者形成外在约束,也保障了个人对不同数字技术具体运用的异议权。


第三,提升程序参与性,实现数字技术风险控制的全过程公众参与

在数字技术投入使用之前,建立数字技术影响评估制度,通过专家预判数字技术使用的潜在风险与危害,权益受影响的公民可通过听证程序发表意见和参与讨论。

3
以主观程序正义补强结果正义性


在准确性维度上,将与沟通相关的数字表达技术纳入研发与设计中,最大限度提高程序正义的公平感和可接受性。

数字技术嵌入公权力的运行,不能停留于“使用层面”的软硬件投入,而应着眼于多元主体之间 “沟通意义”上的治理模式改造,在信息充分供给的基础上,尽可能减少程序错误。在及时性维度上,应重视数字技术推动程序正义的系统性。


规范数字技术风险时,须将程序正义作为一个重要的考量维度。数字科技的进步与发展,要坚持以人为本,把个人权利、自由的实现作为科技进步、发展的终极目的和最高价值。

编辑:岳青植
监制:李红梅


文章参考:

1.《积极应对数字技术的社会风险》中国社会科学网2.《毕马威:数字技术应用面临网络安全挑战》北京日报3.《积极应对数字技术的社会风险》中国社会科学网4.《罗英:数字技术风险程序规制的法理重述》《法学评论》2022年第5期


往期回顾

  构建更加紧密网络空间命运共同体:从十点主张看中国未来互联网发展愿景


  扎根细分生产场景 推动智能机器人高质量发展


构建算力发展新格局 助力数字应用新发展

继续滑动看下一个

您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存